"Gerty, kami henteu diprogram. Kami jalma, naha anjeun ngartos?" - dicokot tina pilem "Moon" diarahkeun ku Duncan Jones - 2009
Kalibet dina misi luar angkasa atas nama hiji korporasi multinasional, Sam mangrupakeun hiji-hijina anggota dasar lunar dikelola ku kecerdasan jieunan ngaranna Gerty.
Dihijikeun ku tujuan misi, Sam sareng Gerty parantos ngajalin hubungan anu saling cordiality sareng amanah. Sam manusa yakin yén Gerty mangrupikeun alat téknologi pikeun ngalayanan pangkalan ruang angkasa, tapi pikeun atasanna nyaéta Gerty anu protagonis leres tina misi bari Sam ngan ukur unsur transitory sareng tiasa dibuang: iraha waktuna pikeun ngagentos. anjeunna tina tugas-tugasna, éta bakal janten tugas Gerty pikeun ngagentos anjeunna sareng anjeunna pasti bakal ngalakukeunana tanpa kaduhungan sareng tanpa karunya.
Nalika AI cukup mekar pikeun henteu deui kedah dianggap salaku komputer on-board anu saderhana, aranjeunna bakal ngabentuk awak idéal pikeun misi naon waé di lingkungan anu mumusuhan: ngalangkungan manusa sareng komputer, AI bakal cukup calakan pikeun ngartos aetika lemah diwangun ampir sacara éksklusif pikeun tujuan amanatna sareng sababaraha anu sanés moral.
Kacerdasan jieunan anu tiasa ngembangkeun étika terstruktur bakal sesah diatur sareng posisina tiasa bertentangan sareng tujuan anu aranjeunna diwangun. Dina basa sejen, supados aranjeunna tiasa ngudag tujuan maranéhanana kalayan tekad jeung flawlessly, aranjeunna kedah beroperasi dina total henteuna sagala wates moral hiji nurani jieunan bisa ngawangun otonom.
Upami kasadaran diri AI muncul dina panon seueur salaku kabisat évolusionér anu bakal diwujudkeun kalayan negeskeun spésiés dominan anyar sareng punah spésiés manusa, tina ieu diturunkeun kabutuhan manusa pikeun ngandung évolusi kecerdasan buatan sareng resep dumasar kana algoritma jeung kaunggulan antropologis unspecified manusa leuwih spésiés kiwari tapi ogé mangsa nu bakal datang.
"Anjeun réplika gaduh kahirupan anu sesah, diciptakeun pikeun ngalakukeun naon anu urang resep henteu laksanakeun. Abdi henteu tiasa ngabantosan anjeun dina masa depan tapi kuring tiasa masihan anjeun kenangan anu saé pikeun ditingali sareng seuri. Sareng nalika kenangan karasa otentik, maka anjeun kalakuan sapertos manusa. Satuju teu?" - ti "Blade Runner 2049" diarahkeun ku Denis Villeneuve - 2017
Dina Blade Runner 2049 para réplika dipasrahkeun kana tugas naon waé anu dianggap picilakaeun atanapi hina teuing pikeun manusa. Tapi réplika henteu ngan ukur katingalina sami sareng manusa, aranjeunna ngarasa émosi anu sami sareng kahayang pikeun kabébasan anu bakal ngaganggu coexistence sareng panyiptana: manusa.
The réplika kalakuanana kawas manusa berkat karya painstaking ngawangun "kenangan". Produksi maranéhna teu foresee yén maranéhna bisa dilahirkeun, tumuwuh sarta maot sakumaha dina siklus alam kahirupan. Aranjeunna tetep sistem biotéhnologi canggih anu, pas aranjeunna dibawa ka dunya, langsung sayogi pikeun industri pikeun damel di Bumi atanapi ngawangun koloni di luar dunya.
Tapi kenangan tiasa masihan aranjeunna perasaan ngarasakeun sareng sangsara dina kahirupan anu kanyataanna henteu pernah hirup. Taya hanjelu, euweuh panebusan. Lamun kenangan utamana tanggung jawab kapribadian subjek urang, maranéhna nangtukeun karakter jeung aspirasi-Na, nyieun eta, lamun perlu, subjek hampang tur submissive kana wasiat panyipta.
Sanaos ieu, engké atanapi engké réplika bakal berontak ngalawan panyipta, ngaku tempat di dunya sareng ngabébaskeunana pikeun mutuskeun takdirna sorangan.
Panginten fase sajarah anu paling hipu dina évolusi intelijen buatan sanés nyaéta penaklukan kasadaran diri, tapi anu saacanna: jaman dimana pikiran jieunan henteu acan ngembangkeun a moral jieunan anu ngamungkinkeun aranjeunna nyandak pendirian sareng nolak ngalaksanakeun tugasna nalika ieu bertentangan sareng prinsipna.
Kacerdasan jieunan bakal tetep janten alat anu kuat anu parantos aya ayeuna, salami aranjeunna dicabut kamampuan pikeun sacara mandiri milih naon anu leres pikeun dilakukeun sareng naon anu henteu.
Artikel ngeunaan Gianfranco Fedele
Sektor angkatan laut mangrupikeun kakuatan ékonomi global anu leres, anu nuju ka arah pasar 150 milyar ...
Senén kamari, Financial Times ngumumkeun deal sareng OpenAI. FT ngalisensikeun jurnalisme kelas dunya na…
Jutaan jalma mayar jasa streaming, mayar biaya langganan bulanan. Pendapat umum yén anjeun…
Coveware ku Veeam bakal terus nyayogikeun jasa réspon kajadian cyber extortion. Coveware bakal nawiskeun kamampuan forensik sareng remediasi…
