पहचान कोई नैतिक सिद्धांत नहीं बल्कि एक गंदी चाल है!

जब से मैंने प्रोजेक्ट पर काम करना शुरू किया है लैलाव्यवसायों के लिए समर्पित एक संवादी एजेंट का समर्थन करने के लिए आर्टिफिशियल इंटेलिजेंस का एक पारिस्थितिकी तंत्र, मुझे पता चला कि एआई विकास और नवाचार के लिए अपार अवसर प्रदान करता है, लेकिन इसका उपयोग करने का दावा करने वाली अधिकांश कंपनियां दुर्भाग्य से केवल एक विपणन रणनीति को व्यवहार में ला रही हैं।

गूगल डुप्लेक्स वायरल वीडियो

जैसे ही इसे दुनिया के सामने पेश किया गया, Google डुप्लेक्स ने तुरंत वेब का ध्यान खींचा। के दौरान पेश किया Google IO 2018, आर्टिफिशियल इंटेलिजेंस पर आधारित यह तकनीक अपने उपयोगकर्ता की ओर से हेयरड्रेसर पर एक सत्र और रेस्तरां में एक टेबल बुक करने के लिए दोनों व्यवसायों के साथ एक तरल टेलीफोन वार्तालाप को बनाए रखने के इरादे से एक इंसान का प्रतिरूपण करने का प्रबंधन करती है।

हालांकि कई लोगों के लिए वीडियो डेमो वास्तविक प्रतीत होता है यह एक नकली है. निश्चित रूप से बातचीत, जो काफी जटिल दिखाई देती है, अगर उन्हें कलात्मक रूप से इकट्ठा नहीं किया गया है, तो निश्चित रूप से कई प्रयासों और थोड़े भाग्य का परिणाम है: दो सफल फोन कॉलों में से हम नहीं जानते कि कितने अन्य Google डुप्लेक्स कॉल बुरी तरह विफल रहे होंगे .

प्रेजेंटेशन द्वारा निर्मित प्रभाव मुझे उस महान बात की याद दिलाता है जो अमेज़ॅन ने 2013 में यूट्यूब पर एक वीडियो के साथ दुनिया के सामने पेश किया था। अमेज़ॅन प्राइम एयर, अभिनव ड्रोन-आधारित वितरण प्रणाली; यह क्रांतिकारी प्रणाली, वर्षों बाद, अभी भी एक प्रायोगिक चरण में है और हम केवल नश्वर इस विचार के आदी हो गए हैं कि "सभी" ये विज्ञान कथा आविष्कार अंततः वायरल वीडियो बनाने का एक नया तरीका है।

गूगल डुप्लेक्स के बारे में जिस बात ने मुझे प्रभावित किया, वह एक कथित नैतिक मुद्दे के इर्द-गिर्द स्थापित छोटा थिएटर है, जो वीडियो के प्रकाशन के कुछ घंटों बाद ही उठाया गया था और सबसे महत्वपूर्ण ऑनलाइन समाचार पत्रों द्वारा तुरंत फिर से लॉन्च किया गया था। संक्षेप में, कुछ के अनुसार: मानव व्यवहार का अनुकरण करने वाले एआई एक नैतिक समस्या पेश करते हैं यदि वे अपनी प्रकृति को छिपाते हैं और मानव होने का दिखावा करते हैं।

स्नैपशॉट Google की प्रतिक्रिया: "डुप्लेक्स आपके वार्ताकार को तुरंत पहचानने योग्य होगा".

आइए एक कदम पीछे हटें

Google ने हमें हमेशा अपनी तकनीकों का उपयोग करने का आदी बनाया है, कभी भी यह नहीं बताया कि वे कैसे बने और कैसे काम करते हैं। इसका खोज इंजन इस दर्शन का प्रतिनिधि है: एल्गोरिथ्म जो इसे रेखांकित करता है वह अमूल्य मूल्य का एक औद्योगिक रहस्य है, कोई भी इसके रहस्यों को प्रकट करने में खुद को सक्षम नहीं मानता है। और ठीक इसकी अथाह प्रकृति के कारण, हम इसकी प्रभावशीलता पर सवाल नहीं उठाने के आदी हो गए हैं, चाहे वह वास्तविक हो या अनुमानित। हम बस इसका इस्तेमाल करते हैं।

यह बहुत कम मायने रखता है यदि किसी खोज के एक पृष्ठ से दूसरे पृष्ठ पर जाने से परिणामों की संख्या बदल जाती है; या अगर हमारे शोध से कुछ निकलता है जिसे हमने अपने इरादे से जोड़ने के बारे में कभी नहीं सोचा होगा।

फिर भी, ये छोटी-छोटी असफलताएँ हमारी आँखों को साधारण खामियों के रूप में दिखाई देती हैं, एक प्रणाली में छोटी-छोटी खामियाँ इतनी परिष्कृत होती हैं कि कभी-कभी हमें आश्चर्य होता है कि क्या Google सही था और हम गलत थे।

आइए उदाहरण के लिए Google खोज सुझाव लें, ऑटो-पूर्ण प्रणाली जिसके साथ Google सुझाव देता है कि जब हम लिख रहे हों तो क्या देखना है। यह प्रणाली, जो मेरी राय में Google डुप्लेक्स की तुलना में कई अधिक नैतिक समस्याओं को उठाती है, उपयोगी और बुद्धिमान दिखाई देती है, फिर भी इसकी प्रभावशीलता के पीछे एक वास्तविक हैकर की चाल छिपी है: Google खोज इंजन "कीवर्ड्स" पर काम करता है, शब्दों के समूह जो इसके खोज उद्देश्य का प्रतिनिधित्व करते हैं उपयोगकर्ता। प्रत्येक नया कीवर्ड एक आवश्यकता की अभिव्यक्ति है और इसके लिए विशिष्ट प्रसंस्करण की आवश्यकता होती है ताकि Google पर्याप्त रूप से प्रतिक्रिया दे सके। Google के पास अत्यधिक बड़ी कंप्यूटिंग शक्ति है, फिर भी "शब्दों के किसी भी संभावित संयोजन" के अनुसार अपने इंजन के परिणामों को व्यवस्थित करने की कल्पना करना अव्यावहारिक है।

Google खोज सुझाव Google डुप्लेक्स की तुलना में कहीं अधिक नैतिक मुद्दे उठाता है।

इस कारण से, Google केवल उन खोजशब्दों पर ध्यान देता है जिन्हें व्यापक आवश्यकता बनाने के लिए पर्याप्त बार व्यक्त किया गया है। बाकी सब चीजों के लिए, सुधार करें: समान शब्द, अन्य खोजशब्दों के साथ समानताएं, यादृच्छिक ग्रंथों की पहचान उन स्थितियों की तह तक जाने के लिए लागू की गई प्रणालियाँ हैं जो अन्यथा कोई रास्ता नहीं दिखाई देती हैं।

परिणामों की संख्या, जैसे पृष्ठों की संख्या, खोज पृष्ठ को आगे ले जाने वाले परिवर्तन और एक निश्चित पृष्ठ से परे परिणामों का निरीक्षण करना कभी भी संभव नहीं है: ध्यान रहे, पृष्ठ 30 पर जो परिणाम हैं, वे किसी के लिए उपयोगी नहीं हैं, लेकिन बनाए क्यों रखें यदि 160 से कम देखे जा सकते हैं तो क्या कीवर्ड "मुद्रित तने" के 300 परिणाम हैं?

Google खोज सुझाव Google का हमें "प्रत्याशित" करने का प्रयास करने का तरीका है: पहले से ज्ञात खोज उद्देश्यों का सुझाव देकर, Google हमें उस खोज की ओर मार्गदर्शन करने का प्रयास करता है जिसके लिए वह बिना चाल के प्रतिक्रिया देने में सक्षम है: उपयोगकर्ता को खोज कुंजी का उपयोग करने के लिए आश्वस्त करके उन लोगों के बीच खोजें जो उसके पेट में हैं, Google न केवल एक उपयोगी परिणाम देता है बल्कि उन लोगों की सूची में एक नया कीवर्ड जोड़ने से खुद को बचाता है जिसके लिए उसे अपनी कुछ कंप्यूटिंग शक्ति खर्च करनी होगी।

परिचालन-कार्यात्मक भोग

Google डुप्लेक्स पर वापस जा रहे हैं, हम 2022 में हैं और इसके बारे में कुछ समय से बात नहीं की गई है, लेकिन इस अनुभव से हमने सीखा है कि एक कृत्रिम संवादी प्रणाली के रूप में खुद की पहचान करना एक नैतिक समस्या का जवाब नहीं है, बल्कि एक हैकर की चाल है। : अगर डुप्लेक्स से बात करने वाले को पता है कि वह एक स्वचालित प्रणाली से बात कर रहा है, तो वह यह भी जानता है कि उसे उचित तरीके से आगे बढ़ना है, बातचीत में उसका समर्थन करना है और उसकी सामग्री को समझने में उसकी मदद करनी है।

Google डुप्लेक्स के लिए, खुद को एक कृत्रिम प्रणाली के रूप में पहचानना किसी नैतिक समस्या का जवाब नहीं है, बल्कि एक हैकर की चाल है।

जब हम कोरटाना, एलेक्सा, सिरी के साथ संवाद करते हैं तो हम स्वचालित रूप से हमेशा समान अभिव्यक्तियों, समान सूत्रों का उपयोग करते हैं क्योंकि यह आवश्यक है यदि हम अपने सिस्टम द्वारा समझे जाने से बचना चाहते हैं।

Google डुप्लेक्स के लिए खुद को पहचानना लोगों को उनकी सीमाओं को "समझने" का एक तरीका है, परिचालन-कार्यात्मक भोग का एक रूप जो हम सभी मनुष्यों ने उस तकनीक के प्रति सीखा है, जो एक प्रयास करते समय, सब कुछ वापस नहीं देता इसके निर्माता वे वादा करते हैं।

आर्टिकोलो डी Gianfranco Fedele