세계는 우리가 수십 년 동안 영화에서 보고 존경해 왔던 방식으로 AI가 삶을 장악하고 삶을 활기차게 만들도록 서두르고 있는 것 같습니다. 하지만 우리는 의도적으로 그 어두운 면을 보지 못했습니까? 머지않아 인류를 삼킬 수 있는 쪽은? 해킹, 바이러스, 악성 코드 등의 문제가 우리의 주요 관심사인 지금 이 시점에서 우리는 이 첨단 기술을 따라가는 악마에 대비하고 있는가? 그것이 우리를 능가하면 어떻게 될까요? 우리는 스스로 무덤을 파고 있는 걸까?
현재 AI는 수행하는 기본 기능 때문에 좁은 AI라고 불립니다. 그 자체가 지금도 큰 위협이 될 수 있습니다! 가장 관련성이 높은 예는 빠르고 때로는 재치 있는 반응으로 우리를 놀라게 하는 Siri입니다. 잘! 현재 그녀는 인터넷에서 데이터만 선택하여 우리와 공유합니다. 우리가 휴면 AI라고 부르고 싶은 Strong AI는 인지 기능을 갖추고 있어 대화를 나누고, 학습하고, 심지어 추론까지 할 수 있습니다. 정지시키다! 그리고 이 단계에 도달하면 어떤 일이 발생하는지 돌이켜보면 어떨까요?
동전의 이면
이 기술의 발전에 대한 주요 관심사는 기술이 다음 단계에 빠지는 것입니다. 잘못된 손. 무기가 처음 발견되었을 때 아마도 동물과 같은 외부 위험으로부터 자신을 방어하려는 의도였을 것입니다. 그러나 우리는 이 무기들을 서로 바꾸면서 많은 발전을 이루었습니다. 마찬가지로, 우리 국민이 AI를 사용하여 우리를 공격하면 어떻게 될까요?
인공지능은 사람을 죽이도록 프로그래밍될 수 있습니다. 좋든 싫든 이 기술은 잘못된 손에 들어가 대량 학살을 초래할 수 있습니다. Future of Life에 따르면 이러한 기술 무기는 좁은 AI에서도 가능합니다. 강력한 AI가 있으면 어떻게 될까요? 모든 가능성에서 AI는 인간을 자신에게 할당된 작업을 수행하는 데 방해가 되는 존재로 취급할 수 있습니다.
현재 우리는 강한 AI와 약한 AI 사이에서 고민하고 있습니다. 완벽한 예는 증거 기반 결론에 도달하기 위해 많은 데이터를 뒤지도록 설계된 IBM의 슈퍼컴퓨터인 Watson입니다. 실제로 2011년에는 퀴즈쇼 Jeopardy에서 이전 우승자들을 상대로 100만 달러를 획득했습니다. 훌륭한? 아마도! 하지만 순간적으로 액세스할 수 있는 데이터의 양과 모든 데이터에 액세스할 수 있게 되면 어떤 일이 일어날지 상상해 보세요.
오늘 여러분과 제가 보고 있는 것은 기계가 특정 작업을 수행할 수 있게 해주는 응용 AI입니다. 데이터를 기반으로 의학적 진단이나 기록을 내릴 수 있다는 것 얼굴 인식 등. 일반 AI는 아직 등장하지 않았는데, 이는 기계가 특정 유형의 데이터에서 결과를 추론할 수 있을 뿐만 아니라 우리 인간이 수행하는 모든 작업을 수행할 수 있는 능력을 제공할 것입니다. 이는 다음 질문을 제기합니다. .우리 직업은 어떻게 되나요?
초점을 바꿔야 할 때인가요?
우리는 파멸의 예언자가 되고 싶지 않지만 그렇지 않습니다. Bill Gates나 Elon Musk와 같은 유명 인사들이 AI가 제기하는 위협에 대해 걱정하는 것은 이유가 없습니다. 우리는 몇 년 전에 예측했던 것과 비교하여 AI 발전에서 훨씬 앞서 나가고 있습니다. 초지능을 향해 나아가는 것보다 이를 보호하기 위한 해킹을 알아내는 것이 중요합니다.
지능이 성장함에 따라 시간이 지남에 따라 목표가 다음과 같이 조정될 수도 있습니다. 우리와는 다릅니다. 그리고 우리는 이 잘못 정렬된 지능이 결국 어떤 결과를 가져올지 모릅니다. 이러한 일이 발생하는 데는 수십 년이 걸릴 수 있지만 실제로 걱정스러운 것은 안전 해킹을 알아내는 데 훨씬 더 많은 시간이 걸린다는 사실입니다.
읽기: 0
