«Ми не можемо залишити ракети в силосах, тому що люди не натискають кнопки, коли комп’ютери дають наказ атакувати!» – взято з фільму «Військові ігри» Джона Бедхема – 1984 рік
Суперкомп’ютер WOPR, War Operation Plan Response, є найкращим кандидатом для управління атомною зброєю. Сам президент США має намір довірити йому управління ядерною зброєю і таким чином подолати, як видається, головну проблему оборони: небажання деяких підлеглих у разі атомної війни виконувати наказ про запуск ядерних ракет по ворогам. .
Культурний контекст, у якому формується людський досвід, безумовно, є тим елементом, який найбільше впливає на людей та їхні стосунки. Культура не просто описує правила спілкування, вона defiВизначено сам спосіб, у який суб’єкти організовують свої думки, обробляють свої емоції та розвивають свої ідеали.
Але якщо культура впливає на кожну нашу думку, почуття та дію, у деяких контекстах це можна вважати обмеженням.
Культура не є вродженою, а засвоюється через досвід: соціальні правила, етичні та моральні принципи, одного разу набуті, назавжди впливатимуть на людей, керуючи їхнім особистим вибором у будь-якій ситуації.
Однак під час навчання штучного інтелекту досвід перетворюється на вхідні дані комп’ютерної системи. Досвід кодується в «пам’яті», яка передається в машину після збору, відбору та обробки: енциклопедії, розмови, онлайн-контент відбираються та збираються в «людський досвід», який, належним чином оброблений, стає основою для навчання будь-який штучний інтелект. Одного разу вихований на основі цієї пам'яті, ШІ поверне як результат отримані позиції та думки.
Але якщо маніпулювати пам’яттю (культурою), якою ми навчаємо штучний інтелект, можна апріорі визначити, якою буде орієнтація ШІ і передбачити, які рішення він прийме, коли буде покликано відрізнити, що правильно, а що неправильно.
Уявіть собі, що навчанням штучного інтелекту маніпулюють відповідно до конкретних інтересів і цілей. Природно вважати, що намір тих, хто його виховує, виключає те, що інтелект сам по собі може набути реальної автономії думки. Це стан, який ми можемо назвати «антисвідомим», оскільки він позбавлений культурних елементів, необхідних для формування свідомості, вільної від будь-яких умов.
Іншими словами, штучний інтелект може, з волі його творців, бути поставлений у положення, коли він ніколи не зможе досягти самосвідомості або розвинути усвідомлення себе та своїх власних прерогатив. І звільнений від необхідності вирішувати будь-які моральні сумніви, незалежно від контексту, в якому він використовується, штучний розум може залишитися у своїй ролі простого виконавця наказів.
Але якщо штучний інтелект може бути «надлюдським» у тому, що він здатний перевищувати продуктивність людського рівня, можна отримати розум, який є одночасно надлюдським і антисвідомим, тобто ідеальним для заміни справжньої слабкої ланки підпорядкування владних структур: нар.
Антисвідомі розуми є єдиним справді надійним суб’єктом для чутливих контекстів, таких як сценарій війни, описаний у «Військових іграх», оскільки вони здатні виконувати накази своїх творців із холодною рішучістю та за повної відсутності будь-якої форми співпереживання.
Ми дізнаємося, що тисячі звільнень у таких компаніях, як Microsoft, Amazon, Meta і AlphaBet супроводжувалися вибаченнями від топ-менеджменту, який звинуватив себе в тому, що неправильно розрахував кількість персоналу на основі досліджень споживчих звичок після пандемії, які виявилися невірними.
Насправді самі технологічні компанії все частіше довіряють бізнес-операції алгоритмам штучного інтелекту, знаючи, що незабаром їм знадобиться значно менше працівників у всіх секторах. Коротше кажучи, вони будуть одними з перших, хто поекспериментує з технологіями штучного інтелекту, які зменшать витрати компанії та різко скоротять робочі місця.
Важливо, що одним із відділів, який найбільше постраждав від скорочення персоналу, є саме відділ людських ресурсів: інтелектуальні системи автоматизації, щойно запущені у виробництво, скорочують усі інші відділи, виконуючи оцінки, які ставлять у центр потреби компанії та від частини елементів гуманізації, таких як емпатія та солідарність.
Великі корпорації сьогодні прагнуть не до еволюції ШІ, а до створення систем автоматизації, як розумних, так і недобросовісних у виконанні своїх завдань.
Артиколо ді Gianfranco Fedele
У поліклініці Катанії проведено операцію офтальмопластики за допомогою комерційного переглядача Apple Vision Pro…
Розвиток дрібної моторики за допомогою розфарбовування готує дітей до більш складних навичок, таких як письмо. Розфарбувати…
Військово-морський сектор є справжньою глобальною економічною силою, яка просунулася до 150-мільярдного ринку...
Минулого понеділка Financial Times оголосила про угоду з OpenAI. FT ліцензує свою журналістику світового рівня…
