Сознание и манипуляция искусственным разумом

США в 80-е годы, военное руководство Соединённых Штатов Америки диктует новые правила военного планирования defiопределенно эффективен.

Военные убеждены, что для оперативного реагирования на агрессию вражеского государства, СССР, каждое лицо в цепочке командования должно быть освобождено от его роли и заменено компьютерной системой, способной быстро и хорошо решить, когда необходимо Настало время развязать глобальную термоядерную войну.

«Мы не можем оставлять ракеты в шахтах, потому что люди не нажимают кнопки, когда компьютеры отдают приказ атаковать!» — взято из фильма «Военные игры» Джона Бэдэма — 1984 г.

Ответ на план военной операции

Суперкомпьютер WOPR, War Operation Plan Response, является лучшим кандидатом для управления атомным оружием. Сам президент США намерен поручить ему управление ядерным оружием и таким образом преодолеть, казалось бы, главную оборонную проблему: нежелание некоторых подчиненных в случае атомной войны выполнять приказ о запуске ядерных ракет по враги.

Когда человечество — слабое звено

Культурный контекст, в котором формируется человеческий опыт, безусловно, является элементом, который больше всего влияет на людей и их отношения. Культура не просто описывает правила общения, она defiСам способ, которым субъекты организуют свои мысли, развивают свои эмоции и развивают свои идеалы, заканчивается.
Но если культура влияет на каждую нашу мысль, чувство и действие, в некоторых контекстах ее можно считать ограничением.
Культура не является врожденной, а усваивается с опытом: однажды приобретенные социальные правила, этические и моральные принципы будут определять людей навсегда, направляя их личный выбор в любой ситуации.
Однако при обучении искусственного интеллекта полученный опыт переводится во входные данные компьютерной системы. Опыт кодифицируется в «памяти», которая передается машине после сбора, отбора и обработки: энциклопедии, разговоры, онлайн-контент отбираются и собираются в «человеческий опыт», который при соответствующей обработке становится основой обучения любой искусственный интеллект. Получив образование на основе этой памяти, ИИ вернет в качестве вывода позиции и мнения, которые последуют.

Самосознание

Но если манипулировать памятью (культурой), с помощью которой мы обучаем искусственные интеллекты, можно априори установить, какова будет ориентация ИИ и предсказать, какие решения он примет, когда ему придется различать добро и зло.
Представьте себе, что образованием искусственного интеллекта манипулируют в соответствии с конкретными интересами и целями. Естественно полагать, что намерение тех, кто его воспитывает, исключает возможность приобретения интеллектом самой реальной автономии мысли. Это состояние мы могли бы назвать «антисознательным», поскольку оно лишено культурных элементов, необходимых для формирования сознания, свободного от каких-либо условностей.
Другими словами, искусственный интеллект по воле своих создателей может быть поставлен в такое положение, когда он никогда не сможет достичь самосознания или развить осознание себя и своих собственных прерогатив. И избавленный от необходимости разрешать любые моральные сомнения, независимо от контекста, в котором он используется, искусственный разум может оставаться в роли простого исполнителя приказов.
Но если искусственный интеллект может быть «сверхчеловеческим» в том смысле, что он способен превзойти производительность человеческого уровня, то можно получить разум, который будет одновременно сверхчеловеческим и антисознательным, то есть идеальным для замены настоящего слабого звена Церковность властных структур: чел.
Антисознательные разумы являются единственным по-настоящему надежным объектом для чувствительных контекстов, таких как сценарий войны, описанный в «Военных играх», поскольку они способны выполнять приказы своих создателей с холодной решимостью и при полном отсутствии какой-либо формы сочувствия.

Антисознательное мышление AlphaBet

Мы узнаем, что тысячи увольнений в таких компаниях, как Microsoft, Amazon, Meta и AlphaBet сопровождались извинениями топ-менеджмента, который обвиняет себя в неправильном расчете численности персонала на основе исследований потребительских привычек после пандемии, которые оказались неверными.
На самом деле сами технологические компании все чаще доверяют бизнес-операции алгоритмам искусственного интеллекта, зная, что вскоре им понадобится гораздо меньше сотрудников во всех секторах. Короче говоря, они будут одними из первых, кто экспериментирует с технологиями искусственного интеллекта, которые снизят затраты компаний и резко сократят рабочие места.
Примечательно, что одним из отделов, наиболее затронутых сокращением персонала, является именно отдел кадров: после запуска в производство интеллектуальные системы автоматизации сокращают все остальные отделы, выполняя оценки, ориентированные на потребности компании и элементы деталей. гуманизации, таких как сочувствие и солидарность.
Сегодня крупные корпорации стремятся не к развитию искусственного интеллекта, а к созданию систем автоматизации, столь же умных, сколь и недобросовестных в выполнении своих обязанностей.

Статья автора Gianfranco Fedele