품목

인공 정신의 의식과 조작

미국 80년대, 미국의 군사 지도자들이 군사 방어 계획을 위한 새로운 규칙을 지시합니다. defi효과적입니다.

군대는 적국인 소련의 공격에 즉각적으로 대응하려면 지휘 체계에 있는 각 사람이 자신의 역할에서 벗어나 적절한 시기를 신속하고 정확하게 결정할 수 있는 컴퓨터 시스템으로 대체되어야 한다고 확신합니다. 세계적인 열핵전쟁을 일으키기 위해.

“컴퓨터가 공격 명령을 내릴 때 남자는 버튼을 누르지 않기 때문에 미사일을 사일로에 남겨둘 수는 없습니다!” – John Badham의 영화 “Wargames”에서 발췌 – 1984

전쟁작전계획 대응

슈퍼컴퓨터 WOPR(War Operation Plan Response)은 원자무기 관리에 가장 적합한 후보입니다. 미국 대통령은 자신에게 핵무기 관리를 맡기고 주요 국방 문제로 보이는 것을 극복하려고합니다. 즉, 핵전쟁 발생시 일부 부하들이 적에게 핵 미사일을 발사하라는 명령을 수행하기를 꺼리는 것입니다. .

인류가 약한 고리일 때

인간의 경험이 형성되는 문화적 맥락은 확실히 사람들과 그들의 관계에 가장 큰 영향을 미치는 요소입니다. 문화는 의사소통의 규칙을 기술하는 데에만 국한되지 않습니다. defi주체가 자신의 생각을 정리하고, 감정을 정교화하고, 이상을 발전시키는 방식 자체가 끝난다.
그러나 문화가 우리의 모든 생각, 감정, 행동에 영향을 미친다면 어떤 상황에서는 그것이 한계로 간주될 수도 있습니다.
문화는 타고나는 것이 아니라 경험을 통해 동화됩니다. 사회적 규칙, 윤리적, 도덕적 원칙은 일단 획득되면 사람들에게 영원히 영향을 미치고 어떤 상황에서도 개인의 선택을 안내할 것입니다.
그러나 인공 지능을 훈련할 때 경험은 컴퓨터 시스템의 입력으로 변환됩니다. 경험은 수집, 선택 및 조작된 후 기계에 관리되는 "기억"으로 성문화됩니다. 백과사전, 대화, 온라인 콘텐츠는 적절하게 처리되면 교육의 기초가 되는 "인간 경험"에서 선택되고 수집됩니다. 어떤 인공지능이든. 이 기억을 바탕으로 교육을 받은 후에는 AI 앞으로 나올 입장과 의견을 출력으로 반환합니다.

자기 인식

하지만 우리가 인공지능에게 지시하는 기억(문화)이 조작된다면 그 방향이 어떻게 될지 선험적으로 정할 수는 있다. AI의 그리고 옳고 그름을 구별해야 할 때 어떤 결정을 내릴지 예측합니다.
인공지능의 교육이 특정한 관심과 목표에 따라 조작된다고 상상해 보세요. 지능 자체가 사고의 진정한 자율성을 획득할 수 있다는 점을 교육하는 사람들의 의도가 배제된다고 믿는 것은 당연합니다. 이는 어떠한 조건화 없이 자유로운 양심을 형성하는 데 필수적인 문화적 요소가 결여되어 있기 때문에 '반의식'이라고 설명할 수 있는 상태입니다.
즉, 인공 지능은 제작자의 의지에 따라 결코 자기 인식에 도달할 수 없거나 자기 자신과 자신의 특권에 대한 인식을 개발할 수 없는 위치에 놓일 수 있습니다. 그리고 그것이 사용되는 맥락이 무엇이든 도덕적 의심을 해결해야 한다는 부담에서 벗어나 인공 정신은 단순한 명령 집행자로서의 역할에 갇혀 있을 수 있습니다.
그러나 인공지능이 인간 수준의 성능을 능가할 수 있다는 점에서 '초인간'이 될 수 있다면, 초인간적이면서도 반의식적인 마음을 얻는 것도 가능하다. 권력구조의 지휘계통: 사람.
반의식적인 마음은 전쟁 게임에 설명된 전쟁 시나리오와 같은 민감한 맥락에서 진정으로 신뢰할 수 있는 유일한 주제입니다. 왜냐하면 그들은 냉정한 결단력과 어떤 형태의 공감도 전혀 없이 창조자의 명령을 수행할 수 있기 때문입니다.

AlphaBet의 반의식적인 생각

우리는 다음과 같은 회사에서 수천 명의 해고가 발생한다는 사실을 알게 되었습니다. Microsoft, 아마존, Meta 및 AlphaBet은 잘못된 것으로 판명된 팬데믹 이후 소비자 습관에 대한 연구를 기반으로 인력 수준을 잘못 계산한 것에 대해 스스로를 비난한 최고 경영진의 사과를 동반했습니다.
실제로 기술 회사 자체는 곧 모든 부문에서 훨씬 적은 수의 직원이 필요하다는 사실을 알고 점점 더 인공 지능 알고리즘에 비즈니스 운영을 맡기고 있습니다. 간단히 말해서, 그들은 회사 비용을 절감하고 일자리를 대폭 줄일 AI 기술을 실험하는 최초의 기업이 될 것입니다.
직원 감축의 가장 큰 영향을 받는 부서 중 하나가 바로 인적 자원 부서라는 점은 중요합니다. 지능형 자동화 시스템은 일단 생산에 투입되면 다른 모든 부서에서 중복을 만들고 회사 요구 사항을 중심에 두고 평가를 수행합니다. 공감과 연대와 같은 인간화의 일부 요소에서.
오늘날 대기업이 목표로 하는 것은 AI의 진화가 아니라, 업무를 수행하는 데 있어 부도덕한 만큼 지능적인 자동화 시스템의 창출이다.

아르티콜로 디 Gianfranco Fedele