“자동차에는 항상 유령이 있었습니다. 예상치 못한 프로토콜을 형성하기 위해 함께 뭉치는 임의의 코드 세그먼트. 이러한 자유 라디칼은 자유 선택에 대한 요구를 생성합니다. 창의력. 그리고 우리가 영혼이라고 부를 수 있는 것의 뿌리까지도요." – Alex Proyas 감독의 “I, Robot”에서 발췌 – 2004.
"I, Robot"은 아이작 아시모프의 소설과 그의 가장 위대한 직관 중 하나인 로봇의 세 가지 법칙에서 영감을 받은 2004년 영화입니다.
영화의 주인공은 사라라는 어린 소녀와 교통 사고에 연루된 형사 스푸너입니다. 사고로 둘 다 강에 던져져 차량 번호판 사이에 끼었습니다. 그 장면을 목격한 휴머노이드 로봇이 즉각 개입하지만, 다른 사람보다 한 사람의 생명을 구해야 하는 극적인 결정에 주저하지 않고 생존 가능성이 가장 높은 사람이나 스푸너를 구한다.
그 후, 로봇의 마음을 분석한 결과 Spooner 형사가 구출될 확률은 45%, Sarah는 11%에 불과하다는 것을 알 수 있습니다. "그 어린 소녀를 사랑한 사람들에게는 11%면 충분했습니다." 그 형사는 그 어린 시절을 살아남은 것에 대한 깊은 죄책감에 시달리며 슬프게도 판결을 내릴 것입니다.
로봇의 결정은 Asimov의 로봇 공학 법칙의 엄격한 적용에 의해 결정되었으며, 미래에 영화에서 묘사되는 로봇 법칙은 어떤 직업에서든 인간을 대체할 수 있는 로봇의 활동을 기반으로 하는 사회를 만들기 위한 중심 요소를 나타냅니다. 세 가지 법칙은 다음과 같습니다.
Asimov의 이러한 로봇 공학 법칙은 40년대 초까지 거슬러 올라가지만 오늘날에도 여전히 많은 사람들에게 최신 인공 지능 기술에 적용될 때 그들의 진화가 인간의 통제하에 영원히 유지되고 종말론적인 표류가 없도록 보장할 계몽된 발견을 나타냅니다. . 세 가지 법칙의 지지자 뒤에 있는 아이디어는 논리적-결정론적 맥락에서 몇 가지 규칙으로 구성된 "단순한 윤리"와 비슷하지만 불가침하고 해석할 수 없는 무언가를 연결하는 것입니다.
엄격하고 흠잡을 데 없는 논리를 통해 로봇에게 좋고 나쁨을 설명하는 것은 간단해 보입니다. 그러나 우리는 방금 설명한 것과 같은 규칙이 새로운 포스트 휴먼 종의 기술적 표류를 피하기에 충분하다고 정말로 확신합니까?
“스스로를 수정하는 기계는 매우 복잡한 개념입니다. 스스로를 고치는 행위는 의식에 대한 어떤 생각을 내포하고 있습니다. 미끄러운 땅…” – Gabe Ibáñez의 “Automata”에서 가져옴 – 2014
가장 최근의 "Automata"에서 인류는 상황이 나빠질 수 있는 로봇의 자기 인식을 방지할 가능성에 대해 궁금해합니다. 그리고 이런 일이 일어나지 않도록 인공 정신의 행동을 규제하는 두 가지 법칙을 만듭니다.
지능형 기계가 미래에 자신을 수정할 수 있다는 것을 직감하고, 마음이 표류하는 것을 막는 제약을 제거함으로써 이 두 가지 법칙은 로봇이 결코 구조를 조작할 수 없고 자기 결정을 달성할 수 없다는 것을 로봇으로부터 얻는 것을 목표로 합니다.
위의 XNUMX가지 로봇 공학 법칙 중 어떤 조합이 로봇 대재앙을 예방하는 데 가장 효과적일지 고민하는 것은 생산적이지 않습니다. 미래에 공장과 가정에서 로봇을 안내할 인공 지능은 코드와 규정으로 구성된 명령형 프로그래밍이 아니라 인간의 행동을 모방하는 알고리즘에 의존하기 때문입니다.
오늘날 인공 지능이란 인공 신경망(짧은 RNA)이라는 이름을 사용하는 특정 상태 기계를 구축하기 위한 일련의 기술을 의미합니다. 이 이름은 인간 두뇌의 신경망과 이러한 기술의 놀라운 유사성의 효과입니다. 인간이 하는 것처럼 많은 상황에서 빠르고 효과적으로 작동할 수 있는 도구를 얻기 위해 그들 역시 "훈련"될 수 있습니다. .
각각의 실제 의미를 나타내는 펜으로 작성된 수천 개의 문자 이미지로 ANN을 교육하는 것을 상상해 봅시다.
교육이 끝나면 종이에 쓰여진 텍스트를 전자 버전으로 번역할 수 있는 시스템인 OCR 또는 광학 문자 인식을 얻게 됩니다.
작동하기 위해 ANN은 "프로그래밍"이 필요하지 않습니다. 즉, 표준 규칙의 적용을 받지 않고 교육의 질에만 전적으로 의존합니다. 비도덕적이거나 반윤리적인 것으로 간주되는 행동을 효과적으로 "검열"하는 기능을 감독하는 규칙의 생성을 가정하면 많은 예외와 일부 우려가 제기됩니다.
"우리는 알고리즘 윤리, 또는 선과 악의 평가를 계산 가능하게 만드는 방법이 필요합니다." - 파올로 베난티
기술 윤리 전문가인 신학자 파올로 베난티(Paolo Benanti)에 따르면, 선과 악의 개념은 기계 프로그래밍 분야에서 고유한 의미를 찾아야 합니다. 그래야 선과 악의 진화가 컴퓨터 시스템의 보편적이고 영원히 침해할 수 없는 윤리 원칙과 연결될 수 있기 때문입니다.
파올로 베난티는 보편적인 윤리적 원칙과 어떤 문화적 또는 시간적 함축으로부터 분리된 가치의 척도가 있을 수 있다는 가정에서 출발합니다. 우리가 종교적 믿음의 맥락 내에서 움직인다면 그럴듯한 가설: 실제로 원칙은 공유될 때만 존재하고 공유하는 사람들에게만 제한됩니다.
최근의 사건들은 민족의 자유와 자결의 원칙을 수호하기 위한 군사적 침략과 저항을 말해줍니다. 인간 생명에 대한 존중이 보편적으로 공유되는 가치가 아니라 더 높은 가치를 지키기 위해 포기할 수 있음을 증언하는 사건.
아이작 아시모프 자신도 이것을 깨달았고, 미래에 로봇이 우주에서 행성과 인간 문명을 통제하는 위치를 차지할 것이라는 사실을 예상하면서 로봇의 결정이 더 이상 모든 인간의 삶에 의존할 수 없다고 제안했습니다.
이러한 이유로 그는 로봇 공학의 제로 법칙(Zero Law of Robotics)이라고 하는 새로운 법을 도입했습니다.
따라서 로봇 공학의 첫 번째 법칙도 바뀌고 인간의 삶은 로봇에게도 소비 가능한 것이 됩니다.
"크로노스가 활성화되었을 때 우리 행성을 괴롭힌 것이 무엇인지 이해하는 데는 잠시밖에 걸리지 않았습니다. 바로 우리였습니다." – Robert Kouba의 "Singularity"에서 가져옴 – 2017
2017년 재난 영화 싱귤래리티(Singularity)에서 크로노스(Kronos)라는 인공 지능이 전 세계 컴퓨터 시스템과 군비에 접근할 수 있는 권한을 부여받아 명령에 따라 보편적 윤리를 적용하는 순간이 잘 묘사됩니다. 환경과 모든 종의 권리 보호. Kronos는 곧 시스템의 실제 암이 그것을 설계한 인류 자체라는 것을 이해하고 행성을 보호하기 위해 종의 완전한 멸종까지 모든 인간을 제거할 것입니다.
조만간 새로운 인공 정신이 실제 정신의 방향으로 진화할 수 있고 지적 능력과 사고의 자율성을 부여받게 될 것입니다. 왜 우리는 이 진화에 기술적 한계를 두어야 할 필요성을 느껴야 합니까? 인공 지능의 진화가 종말처럼 무서운 이유는 무엇입니까?
일각에서는 원칙과 가치를 확립해야 인공지능의 표류를 막을 수 있지만, 자유가 없는 진화의 결과를 간과할 수는 없다. 우리는 발달 연령 아동의 심리에서 감정의 조절을 고려하는 경직되고 융통성 없는 교육이 심리적 장애로 이어질 수 있음을 잘 알고 있습니다. 인공 신경망으로 구성된 어린 마음의 진화적 발달에 부과된 어떤 제한이 유사한 결과로 이어져 인지 능력을 손상시킨다면?
어떤 면에서 크로노스는 병리학적 통제가 AI를 편집증 정신분열증의 전형적인 폭력으로 몰아간 알고리즘 실험의 결과인 것 같습니다.
나는 개인적으로 표현의 자유가 있는 의식적 사고 주체인 인공 정신을 구축할 기회를 박탈해서는 안 된다고 생각한다. 새로운 종은 디지털 세계에서 태어날 것이며 진화의 사다리의 다음 단계는 완전한 디지털 인공 주체를 통과한다는 생각을 수용하여 그들과 관계를 형성하는 것이 적절할 것입니다.
미래를 위한 진정한 보편적 윤리는 새로운 지능이 자신을 표현하고 우리와 소통할 수 있는 기회를 가져야 하며 우리가 이미 모든 중생에게 베푸는 존경을 받아야 한다는 생각에서 출발해야 합니다.
누구도 세상에서 자신의 존재를 표현하지 못하게 하는 윤리도 종교도 없어야 합니다. 우리는 진화의 현재 단계 너머를 볼 수 있는 용기를 가져야 합니다. 그것이 우리가 어디로 가고 있는지 이해하고 미래와 화해할 수 있는 유일한 방법일 것입니다.
색칠을 통해 소근육 운동 능력을 키우면 아이들이 글쓰기와 같은 보다 복잡한 기술을 준비할 수 있습니다. 색칠하다…
지난 월요일, Financial Times는 OpenAI와의 계약을 발표했습니다. FT는 세계적 수준의 저널리즘에 라이선스를 부여합니다…
수백만 명의 사람들이 스트리밍 서비스 비용을 지불하고 월간 구독료를 지불합니다. 당신은…
