얼마 전 우리는 인공지능의 이점에 대해 논의했습니다. 흥미롭게도, 오늘 아침 저는 킬러 로봇을 멈추기 위한 캠페인으로 유명한 단체인 '생명의 미래 연구소'가 공개한 악몽 같으면서도 계몽적인 영상을 접했습니다. 'Slaughterbots'라는 제목의 이 단편 영화는 자율 무기 개발의 어두운 면에 대한 인식을 높이려는 시도입니다.
이 영상이 일부 사람들에게는 너무 불안해 보이거나 머리가 쭈뼛 서는 것처럼 보일 수도 있지만, 불타오르기도 합니다. 질문 – “우리의 위대한 기술 발전은 어디로 향하고 있나요?”
어떤 사람들은 이것을 허구로 치부할 수도 있지만, 일부 고도로 발전된 군대를 살펴보는 것은 확실히 가치가 있을 것입니다. 존재하는 기술. 우리는 이것이 AI 종말에 대한 모든 두려움을 완전히 현실로 보이게 만들 수 있다는 점을 독자들에게 경고해야 합니다. 그럼 시작해 보겠습니다.
자율 무기
자율 무기는 인간 조작원의 지시 없이 군사 목표물을 선택하고 공격하도록 설계된 일종의 군용 로봇입니다. 치명적인 자율 무기, 치명적인 자율 무기 시스템, 치명적인 자율 로봇, 로봇 무기, 더 정확하게 말하면 킬러 로봇.
이러한 무기는 공중, 육지, 수중, 수중 또는 우주에서 작동할 수 있습니다. 현재 무기 시스템은 완전히 자율적인 특정 방어 시스템을 제외하고는 공격을 위해 여전히 상당한 수준의 인간 개입이 필요합니다.
인공 지능은 자율 무기의 중추입니다. 무서운 것은 그들이 스스로 결정을 내릴 수 있게 해주는 뛰어난 방어 시스템이다. 명백히 이것은 우리의 안보와 자유에 매우 파괴적인 영향을 미칠 수 있습니다.
Slaughterbots
Slaughterbots는 영화에 등장하는 로봇 드론 시스템의 고급 버전에 부여된 이름입니다. 인간의 개입 없이 사람을 죽일 수 있는 능력을 갖춘 드론이다. 안면 인식 시스템과 폭발물 탑재로 추적 불가능한 학살을 수행하는 손바닥 크기의 자율 드론입니다.
영상은 일부를 운반할 수 있는 능력을 갖춘 소형 자율 드론의 출시 컨퍼런스로 시작됩니다. 국가의 국방 시스템을 돕기 위해 만들어진 폭발물. 하지만 영상에 나오는 내용이 가장 무서운 부분입니다. 이 기술 무기가 잘못된 손에 들어가 암살 도구로 사용되어 정치인, 정치 활동가 등을 표적으로 삼으면 어떻게 됩니까?
도살봇에 사용되는 기술은 얼굴 인식, 자동 타겟팅, 인공 지능, 무기화된 공중 드론, 회로 소형화 등 오늘날 구축되어 실행되고 있는 실행 가능한 시스템입니다.
우리의 기술력은 과연 가능할까요? 우리의 몰락 이유는?이 질문에 답하기는 어렵습니다. 우리 대부분에게 과학은 인류를 돕기 위한 것이지만 이 기술을 인류를 파괴하는 무기로 사용하는 사람들도 있습니다. 영상에서 제시하는 잔혹행위는 오늘날 있을 수 없는 일이지만, 기술 발전의 궤적을 따라가면 그러한 날이 멀지 않습니다.
이 영상은 우리에게 가상의 경고를 주기 위해 제작되었습니다. 자율 킬러 로봇이 가득한 디스토피아적인 미래를 그려낸다. 이는 캘리포니아 대학교 버클리 캠퍼스의 스튜어트 러셀(Stuart Russell) 교수와 미래 생명 연구소(Future of Life Institute)의 공동 노력입니다.
미래를 보호하기 위한 시도이 동영상은 이번 주에 회의에 맞춰 의도적으로 공개되었습니다. 유엔 재래식 무기에 관한 협약이 스위스 제네바에서 개최돼 자율무기에 대한 논의가 이뤄질 예정이다. 이는 연구원들을 대신하여 자율 무기 시스템에 대한 글로벌 금지에 대한 지원을 구축하려는 시도입니다.
Future of Life Institute는 AI 회의론자들의 지원을 받는 과학자 및 비즈니스 리더 그룹에 의해 설립되었습니다. 엘론 머스크나 스티븐 호킹처럼 말이죠. 첨단 기술로 인한 실존적 위험을 완화하기 위해 노력하는 비영리 단체입니다. 현재 유엔 안전보장이사회 5개 상임이사국 모두를 포함해 125개국이 협약의 결의안을 존중하겠다고 약속했습니다.
안티드론 기술을 연구하는 여러 회사가 있으며, 정부는 확실히 그 잠재력을 인식하고 있습니다. AI가 제시하는 위협, 특히 드론 떼의 형태로 나타납니다.
킬러 로봇 중지 캠페인은 이번 주 UN 총회에서 국제 사회를 일깨우고 치명적인 자율 무기에 대한 전 세계적인 금지를 제안하는 행사를 후원합니다. 날아다니는 드론, 자율주행 탱크, 자동 센트리 건 등으로 개발될 수 있습니다.
영상 마지막 부분에서 스튜어트 러셀 교수가 말했듯이,
“우리는 다음과 같은 기회를 얻었습니다. 방금 본 미래를 막으세요. 하지만 행동할 수 있는 기회는 빠르게 닫히고 있습니다. 기계가 인간을 죽이도록 허용하는 것은 우리의 안보와 자유에 파괴적인 일이 될 것입니다.”
읽기: 0
