Ölülerin şafağında yapay zekalar

Yıllık konferansında yeniden: Mars 2022 Amazon, Alexa'nın yakında yapay zeka sayesinde gerçek insanların seslerini taklit ederek bizimle konuşabileceğini duyurdu.

Alexa projesinin bilimsel direktörü Rohit Prasad'dı. Yapay Zeka, açılış konuşmasında, yeni bir özellik sayesinde Amazon akıllı hoparlörün kullanıcıların kişisel ilişkilerini "kalıcı" ("kalıcı kişisel ilişkiler") bir şeye dönüştürmesine olanak tanıyacağını belirtti.

Birisi Prasad'ın neyi kastettiğini anlamadıysa, Alexa'ya dönen küçük bir çocuğun görüntüsü ona büyük ekranda sordu ve ona sordu: "Büyükanne 'Oz Büyücüsü'nü okumayı bitirebilir mi?". Alexa hemen "Tamam!" ve o andan itibaren, Frank Baum'un çocuğa masalını okumaya başlayan yaşlı bir kadının sesi cihazdan gelir.

CBS News gazetecisi Tony Dokoupil, "Bu senaryoda mevcut olan büyükanne artık bizimle değil", Algid'i cezalandıracak yorum yapmak Prasad'ın sunumu.

Her zaman bir ilk vardır

Daha Temmuz 2017'de WIRED tarafından yayınlanan bir hizmet sansasyon yarattı, bugün hala mevcut YouTube, burada bir video röportajı, "ölmekte olan babasını bir yapay zekaya dönüştüren" bilgisayar teknisyeninin hikayesini anlatıyor.

James Vlahos, babasının tedavi edilemez bir hastalıktan ölmek üzere olduğunu fark ettiğinde, babasının anılarını uzun bir ses ve metin dosyası listesine kaydetmeye ve ardından akıllı telefonuna yerleştirmeye karar verdi.

Ancak bu sadece başlangıçtı: James, bir yapay zeka algoritması aracılığıyla, babasının en uygun ses ve metinlerini geri göndererek telefonunun soruları yanıtlamasını sağladı ve ikisi arasında büyük olasılıkla bir konuşma oluşturdu. James'in niyetine göre, algoritma ölümünden sonra bile babasıyla diyaloğu tekrar mümkün kılacaktı ve öyle de oldu.

Ancak röportaj sonunda garip bir hal alır. James rahmetli babasına "Beni seviyor musun?" cevap biraz kaçamak görünüyor: “Vay canına! Seni çok özledim! Ne hakkında konuşmak istiyoruz?".

Ve işte o zaman James olanlarla ilgili derin bir düşünmeye başlar: "Babamın beni sevdiğini söylemekteki isteksizliği beni hayal kırıklığına uğrattı.", diyor James acıyla. “Bunun gibi soruların yanıtlarını bir babanın bilmesi gerekir ama bilmiyor. Yani, onun söylediğini duymak istedim."

Ve durum burada karmaşıklaşıyor.

döngüye

James'in deneyimi, insanlara merhumlarıyla yapay zeka aracılığıyla bağlantı kurmayı vaat eden, kar amacı gütmeyen bir iş haline geldi. Herkesin anılarını bir uygulamaya aktararak sevdiklerini hayata döndürebileceği ücretli bir hizmet.

Ancak vefat etmiş bir sevilen kişiyle temasa geçmenin derin psikolojik etkilerini göz önünde bulundurursak, bu hizmetin yeni ve öngörülemeyen toplumsal altüst oluşlara yol açabileceğini göz ardı edemeyiz. Örneğin, yas tutmak yerine, bir döngüde olduğu gibi daha mutlu yaşam deneyimlerine bağlı kalmak için ücretli bir hizmete güvenen insanlardan oluşan bir toplumda yaşamaya hazır mıyız? Bugün hafızamız acı veren anıları kendini koruma perspektifinde işlerse, onları manipüle ederek onları asla acı vermeyen ve her zaman yapay olarak mutlu olan bir şeye dönüştürebileceğimiz yarın nasıl olacak?

Amazon bilimsel ilerlemeyi teşvik etmez, aynı zamanda ürünleri yerleştirmek için yeni alanlar arar ve onları daha önce kimsenin cesaret edemediği yerlerde arar.

Alexa'nın gerçek insanların seslerini ve tonlarını yeniden üreteceği teknolojiler, bir süredir bilinen algoritmalardır. Güneşin altında yeni bir şey olmadığını söyleyebiliriz. Yıkıcı olma vaadinde bulunan, çağdaş ahlakın sınırlarını zorlayan bir provokasyon bunların uygulamasıdır.

Alexa ile Amazon, her kullanıcının etrafında, sevilen ve kaybedilen insanların doldurduğu gerçek bir anılar meta veri havuzu oluşturmak istiyor gibi görünüyor. Hepimizin geçmişe veda etmemeyi seçebileceği, bir yazılım sayesinde onu sonsuza kadar yeniden yaşamayı seçebileceği bir rahatlama yeri.

Durum karmaşıklaşıyor

(Ölen) babasının ona sevgisini gösterememesinden dolayı hüsrana uğrayan James Vlahos, bir gün birkaç kod satırını değiştirerek karakterinin bu yönünü ve daha çok istediği babaya benzeyen "düzeltmeye" karar verirse ne olur?

Ayrıca, Alexa kullanıcılarının akıllı konuşmacıya bizim için tamamen canlı bir insan rolünü oynaması talimatını vermesini ve henüz ihtiyaç duymadığımız yeni bir dijital fetişizm biçimini beslemesini kim engelleyecek?

Alexa'yı aşkının nesnesine dönüştüren, karakterini kendi duygusal ve mizahi ihtiyaçlarına göre şekillendirmeyi unutmayan, hayal kırıklığına uğramış bir sevgiliyi hayal etmeye çalışalım. Bu, insan ilişkilerini değersizleştirmenin ve en kırılgan öznelerin yaşamlarını, gerçeklikten kopuk ve çokuluslu hizmet şirketlerinin yönettiği teknolojik araçlara bağlı yeni sevgi biçimlerine sokmanın bir yolu olabilir mi?

Ama neden?

Amazon'un amacı, insanların dikkatini çeken ve onları çevrimiçi etkinliklerde daha fazla meşgul eden araçlar yaratmaktır. Kullanıcıların katılımı zaten özel hayatın birçok alanını ilgilendiriyor ve Amazon'un niyeti, fetih zemininin her birimizin mahremiyetinde olduğu bir işgal savaşında olduğu gibi, gerekirse duygusal alanı da içeren yenilerini almak ve işgal etmektir.

Ancak duyguları ve acıyı sömürmek yeni sınırsa, bu davranışın etik sonuçları ciddi bir şekilde düşünülmelidir: Bu alan, manipülasyon biçimleri haline gelen yeni dahil olma biçimleri yaratmak için yeni teknolojilerden yararlanmaya niyetli olanlar için serbest bırakılmamalıdır.

Belki de yeni nesilleri, teknolojiyle duygusal olarak beslenen ve kendi yaşam deneyimlerinde doğal olarak gelişemeyen özne kalabalıklarına dönüştürmek istiyor muyuz?

articolo di Gianfranco Fedele