인공 지능

신분 확인은 윤리 원칙이 아니라 더러운 속임수입니다!

프로젝트 작업을 시작한 이후로 Laila기업 전용 대화 에이전트를 지원하기 위한 인공지능 생태계인 , AI는 개발과 혁신을 위한 엄청난 기회를 제공하지만 이를 사용한다고 주장하는 대부분의 기업은 불행히도 단순한 마케팅 전략을 실행하고 있음을 알게 되었습니다.

구글 듀플렉스의 바이럴 영상

Google Duplex는 세상에 소개되자마자 웹의 주목을 받았습니다. 동안 발표 Google IO 2018, 인공 지능에 기반을 둔 이 기술은 사용자를 대신하여 미용실에서 세션을 예약하고 레스토랑에서 테이블을 예약하기 위해 인간 의도를 가장하여 두 비즈니스와 다소 유동적인 전화 대화를 유지합니다.

비디오 데모는 많은 사람들이 가짜야. 확실히 복잡해 보이는 대화는 정교하게 조합되지 않은 경우 확실히 많은 시도와 약간의 운의 결과입니다. 두 번의 성공적인 전화 통화에서 얼마나 많은 다른 Google Duplexes가 비참하게 실패했는지 알 수 없습니다.

프리젠테이션의 효과는 2013년 아마존이 유튜브에 영상으로 세상에 발표했을 때 했던 위대한 연설을 생각나게 합니다. 아마존 총리 항공, 드론을 기반으로 한 혁신적인 배송 시스템; 이 혁명적인 시스템은 수년이 지난 후에도 여전히 실험 단계에 있으며 우리는 그저 그런 공상 과학 소설에서 발견된 "모든" 것이 결국 바이러스성 비디오를 만드는 새로운 방법일 뿐이라는 생각에 익숙해졌습니다.

Google Duplex에 대해 저를 놀라게 한 것은 비디오가 게시되고 가장 중요한 온라인 신문에 의해 즉시 재출시된 지 몇 시간 후에 이미 제기된 윤리적 문제를 둘러싸고 모인 작은 극장입니다. 간단히 말해서, 일부에 따르면: 인간 행동을 시뮬레이션하는 AI가 본성을 위장하고 인간인 척하면 윤리적 문제가 발생합니다.

Google 응답 스냅샷: "Duplex는 대화 상대가 즉시 식별할 수 있습니다.".

한발 물러나자

Google은 항상 기술이 어떻게 만들어지고 어떻게 작동하는지 공개하지 않음으로써 기술을 사용하는 데 익숙해졌습니다. 검색 엔진은 이 철학을 대표합니다. 기본 알고리즘은 값을 매길 수 없는 산업 비밀이며 아무도 자신의 비밀을 밝힐 수 있다고 생각하지 않습니다. 그리고 정확히 측량할 수 없는 특성 때문에 우리는 실제든 추정된 것이든 그 효과에 의문을 제기하지 않는 데 익숙해졌습니다. 우리는 그것을 사용합니다.

검색 결과 수가 한 페이지에서 다른 페이지로 전달되는 것은 중요하지 않습니다. 또는 우리가 우리의 의도와 연관시킬 것이라고 결코 생각하지 못한 연구에서 무언가가 나오는 경우.

그러나 우리의 눈에는 이러한 작은 실패가 단순한 불완전성, 시스템이 너무 정교하여 때때로 Google이 옳고 우리가 그른지 의심스러울 정도로 작은 결함으로 보입니다.

예를 들어 Google이 글을 쓰는 동안 무엇을 찾을지 제안하는 자동 완성 시스템인 Google 검색 제안을 예로 들어 보겠습니다. 나에게 Google Duplex보다 더 많은 윤리적 문제를 제기하는 이 시스템은 유용하고 지능적으로 보이지만 그 효과 뒤에는 실제 해커의 속임수가 숨겨져 있습니다. Google 검색 엔진은 검색 의도를 나타내는 단어 그룹인 "키워드"에 대해 작동합니다. 사용자의. 각각의 새 키워드는 필요의 표현이며 Google이 적절하게 응답할 수 있도록 특정 처리가 필요합니다. 구글은 엄청나게 뛰어난 컴퓨팅 파워를 가지고 있지만 오늘날 "가능한 모든 단어 조합"에 따라 엔진 결과를 구성하는 것을 상상하는 것은 비현실적입니다.

Google 검색 제안은 Google Duplex보다 훨씬 더 많은 윤리적 문제를 제기합니다.

이러한 이유로 Google은 널리 요구될 만큼 충분히 많이 표현된 키워드에만 주의를 기울입니다. 다른 모든 것에 대해 그는 즉흥적으로 말합니다. 유사한 단어, 다른 키워드와의 유사성, 임의 텍스트의 식별은 다른 방법으로는 탈출구가 없는 상황을 처리하기 위해 적용되는 시스템입니다.

페이지 수와 같은 결과의 수는 검색 페이지를 앞으로 이동하여 변경되며 특정 페이지를 넘어서는 결과를 검사할 수 없습니다. 30페이지에 있는 결과는 누구에게도 쓸모가 없다는 점을 분명히 합시다. 하지만 왜 160개 미만을 볼 수 있는 경우 키워드 "인쇄된 줄기"에 300개의 결과가 있습니까?

Google 검색 제안은 Google이 "예상"하려고 하는 방식입니다. 이미 알려진 검색 의도를 제안함으로써 Google은 트릭 없이 답변할 수 있는 검색으로 우리를 안내하려고 시도합니다. 즉, 사용자가 키를 사용하도록 설득합니다. Google은 유용한 결과를 반환할 뿐만 아니라 컴퓨팅 성능의 일부를 소비해야 하는 키워드 목록에 새 키워드를 추가하지 않아도 됩니다.

작동 기능의 방종

Google Duplex로 돌아가서 우리는 2022년이고 그것에 대해 한동안 이야기하지 않았지만 이 경험에서 우리는 인공 대화 시스템으로 식별하는 것이 윤리적 문제에 대한 답이 아니라 해커 트릭이라는 것을 배웠습니다. Duplex와 대화하는 사람은 자신이 자동화된 시스템과 대화하고 있다는 것을 알고 있으며 적절하게 움직여야 대화에서 그를 지원하고 그 내용을 이해하도록 도와야 한다는 것도 알고 있습니다.