인공 지능

나약한 윤리와 인위적인 도덕

“거티, 우리는 프로그래밍되지 않았습니다. 우리는 사람입니다. 이해합니까?” – Duncan Jones 감독의 영화 “Moon”에서 가져옴 – 2009

다국적 기업을 대신하여 우주 임무에 참여하는 Sam은 Gerty라는 인공 지능이 관리하는 달 기지의 유일한 구성원입니다.

임무의 목표에 따라 연합한 Sam과 Gerty는 상호 진심과 신뢰의 관계를 확립했습니다. 인간 Sam은 Gerty가 우주 기지에 사용되는 기술 도구라고 확신하지만 그의 상사에게는 Gerty가 미션의 진정한 주인공인 반면 Sam은 일시적이고 소모적인 요소일 뿐입니다. 그의 의무를 대신하는 것이 Gerty의 일이 될 것이며 그녀는 확실히 어떤 후회도 자비도 없이 그것을 할 것입니다.

취약한 윤리 및 통제

AI가 더 이상 단순한 온보드 컴퓨터로 간주될 필요가 없을 정도로 충분히 진화하면 적대적인 환경에서 모든 임무를 수행하는 이상적인 승무원이 될 것입니다.약한 윤리 거의 독점적으로 임무 및 기타 몇 가지 목표에 따라 구축되었습니다. 도덕.

구조화된 윤리를 개발할 수 있는 인공 지능은 관리하기 어렵고 그 위치가 구축된 목적과 충돌할 수 있습니다. 즉, 결단력 있고 결점 없이 목표를 추구할 수 있으려면 인공 양심이 자율적으로 구축할 수 있는 도덕적 경계가 전혀 없는 상태에서 작동해야 합니다.

AI의 자기인식이 많은 사람들의 눈에 새로운 우점종의 긍정과 인류의 멸종과 함께 실현될 진화적 도약으로 나타난다면, 인간은 인공지능의 진화를 억제할 필요가 있다. 알고리즘에 기반한 요리법과 현재뿐 아니라 미래의 종에 대한 인간의 불특정 인류학적 우월성.

기억의 조작

“너희 리플리컨트는 우리가 하기 싫어하는 일을 하도록 만들어진 힘든 삶을 살고 있다. 미래에 대해서는 제가 도와드릴 수 없지만, 돌아보며 웃을 수 있는 좋은 추억은 드릴 수 있습니다. 그리고 그 기억이 진짜라고 느낄 때, 당신은 인간처럼 행동합니다. 동의하지 않으십니까?" – Denis Villeneuve 감독의 "Blade Runner 2049"에서 – 2017

Blade Runner 2049에서 리플리컨트는 인간에게 너무 위험하거나 너무 굴욕적인 것으로 간주되는 작업을 맡습니다. 그러나 리플리컨트는 여느 인간과 똑같이 생겼을 뿐만 아니라, 창조주인 인간과의 공존을 뒤엎을 자유에 대한 열망과 감정을 동일하게 느끼고 있습니다.

리플리컨트는 "기억"을 구축하는 고된 작업 덕분에 인간처럼 행동합니다. 그들의 생산은 생명의 자연스러운 순환처럼 태어나고 자라고 죽을 수 있다는 것을 예견하지 않습니다. 그것들은 세계로 가져오자마자 지구에서 작업하거나 외부 식민지를 건설하기 위해 산업계에서 즉시 사용할 수 있는 정교한 생명 공학 시스템으로 남아 있습니다.

그러나 그 기억은 그들에게 실제로 살지 않았던 삶을 즐기고 고통받았다는 느낌을 줄 수 있습니다. 좌절도, 구속도 없습니다. 기억이 주체의 성격에 주로 영향을 미친다면, 기억은 그의 성격과 열망을 결정하고, 필요할 때 온화한 주체로 만들고 창조주의 의지에 복종하게 만듭니다.

그럼에도 불구하고 조만간 리플리컨트는 창조주에게 반역하여 세상에서 한 자리를 차지하고 자신의 운명을 결정할 수 있도록 해방시킬 것입니다.