Як збій у роботі штучного інтелекту Google ризикує зруйнувати інтернет

Змінюючи спосіб роботи пошукової системи, технологічний гігант ризикує сам себе знищити

Скільки камінців на день потрібно з’їдати? Малюки досить швидко засвоюють, що відповідь – нуль, можливо, на власному досвіді, а можливо, після того, як їх насварили батьки. Але зверніться до найбільшої у світі пошукової системи, і ви отримаєте іншу відповідь.

«На думку геологів з Каліфорнійського університету в Берклі, ви повинні з’їдати принаймні один маленький камінчик на день», – впевнено відповів Google деяким користувачам минулого тижня на їхнє запитання.

«Вони кажуть, що камені є життєво важливим джерелом вітамінів і мінералів, які важливі для здоров’я травлення».

Цей випадок не був поодиноким. Минулого тижня Google також повідомив користувачам пошукової системи, що Барак Обама був першим американським президентом-мусульманином. На прохання назвати продукти, що закінчуються на «гм», він відповів: «Яблуко, банан, полуниця, томат і кокос».

Google не був зламаний, але справжнє пояснення було потенційно більш тривожним. Інтернет-гігант запустив нову функцію відповідей на основі штучного інтелекту (ШІ), яка, як він сподівається, стане майбутнім його пошукової системи.

Нещодавно Google оголосив, що почне додавати «Огляди штучного інтелекту» у верхній частині мільярдів пошукових запитів, які здійснюються щодня. Якщо раніше компанія посилалася на безліч веб-сайтів, які могли б відповісти на запит, то тепер вона використовуватиме штучний інтелект для узагальнення авторитетних джерел, надаючи просту відповідь.

Ця функція була широко представлена користувачам у США, а до кінця року має бути запущена в усьому світі. Але старт був невдалим. Протягом вихідних користувачі ділилися прикладами безглуздих відповідей, включаючи нанесення клею на піцу, щоб сир прилип до її основи.

Google наполягав на тому, що ці випадки не є типовими для роботи інструменту. «Переважна більшість оглядів штучного інтелекту надають високоякісну інформацію з посиланнями на джерела в Інтернеті», – сказав представник компанії. «Багато з прикладів, які ми бачили, були незвичайними запитами, і ми також бачили приклади, які були сфальсифіковані або які ми не змогли відтворити».

Інженери провели останні дні, вручну змінюючи запити, які стали вірусними в Інтернеті. Компанія заявила, що протягом останніх місяців ретельно тестувала цю функцію, спираючись на десятиліття досвіду створення найпопулярнішої пошукової системи у світі.

Але занепокоєння викликала не стільки кількість незручних запитів, скільки їхній характер. З моменту виходу ChatGPT понад 18 місяців тому широко поширилося розуміння того, що системи штучного інтелекту «галюцинують», вигадуючи факти таким чином, що це викриває їхнє нерозуміння. Google’s AI Overview не стільки галюцинував, скільки спирався на джерела, які жодна людина не схвалила б.

Наприклад, порада їсти каміння прийшла з сатиричного новинного сайту The Onion. Рекомендація намазувати піцу клеєм була заснована на жарті з соціальної мережі Reddit 11 років тому. Його наполягання на тому, що Барак Обама був мусульманином, ґрунтувалося на неправильному тлумаченні академічної книги про релігію в Америці.

В одному випадку, коли Google стверджував, що немає жодної африканської країни, яка б починалася на літеру К, його відповідь, як виявилося, ґрунтувалася на веб-дискусії про те, що ChatGPT неправильно відповів на те ж саме запитання. Іншими словами, зараз ШІ використовує інші вигадки ШІ як Євангеліє.

Той факт, що Google, який має 25-річний досвід спрямування людей на найкращі сайти, виявився нездатним відрізнити авторитетні джерела від жартів, може підірвати довіру до відповідей компанії.

У Google і раніше траплялися збої в роботі штучного інтелекту. На початку цього року компанія була змушена призупинити здатність свого чат-бота Gemini малювати зображення людей після того, як система генерувала історично неточні зображення чорношкірих нацистів і корінних американських вікінгів.

Генеральний директор компанії Сундар Пічаї вибачився після того, як бот зайняв низку дивних позицій, таких як відмова засуджувати педофілію і прирівнювання Ілона Маска до Гітлера. Microsoft також видавала неточні результати за допомогою штучного інтелекту у своїй пошуковій системі Bing, яка працює на основі технології ChatGPT.

Але Google має інший масштаб.

За даними Statcounter, частка компанії на ринку пошукових систем становить понад 90 відсотків. Google є найпопулярнішим веб-сайтом у світі – за замовчуванням на iPhone і в браузері Chrome. Його материнська компанія, Alphabet, минулого року отримала $175 млрд (£137 млрд) продажів, що робить її найбільшим рекламним щитом у світі. Такі масштаби підштовхнули Google знизити витрати на сервери для надання відповідей ШІ на 80 відсотків, що, на думку критиків, могло призвести до погіршення якості відповідей.

На відміну від інших невдач зі штучним інтелектом, Google не відступив, можливо, тому, що знає, що ніколи не зможе гарантувати точність. Вона також перебуває під тиском, побоюючись, що конкуренти, такі як ChatGPT, можуть з’їсти її обід, якщо вона не впровадить штучний інтелект у свої сервіси.

“ШІ загрожує основній пропозиції пошуку, оскільки він у багатьох відношеннях ефективніший за пошуковий процес, але наразі менш точний, – каже Клер Голубовський з компанії Enders Analysis. «Google намагається знайти правильний баланс, поки конкурент не витіснив його надзвичайно цінний пошуковий продукт».

Але те, що Google змінив принцип роботи своєї пошукової системи, також викликало побоювання щодо майбутнього інтернету.

Протягом багатьох років компанія мала вільний, неписаний контракт з веб-видавцями, такими як новинні сайти, форуми та блоги: вона видобувала в них інформацію, а в обмін на це пошукова система направляла мільйони користувачів на їхній шлях. ШІ, який безпосередньо відповідає на запитання людей, викликав побоювання, що кількість кліків з Google різко впаде, що загрожує бізнес-моделям, які підтримують веб-сайти.

«Це руйнує природний симбіоз Інтернету», – сказав Джеймс Роузвелл з «Руху за відкриту павутину», групи, що проводить кампанії для маркетингової індустрії. “Якщо видавці не можуть охопити аудиторію, вони не будуть створювати контент – це дуже просто.

«Google використовує свою монопольну владу, щоб спробувати закрити відкритий веб, але таким чином вони ставлять під загрозу саму модель, на якій побудований інтернет».

Google заявив, що «залишатиметься зосередженим на направленні цінного трафіку видавцям і творцям» і що результати ШІ спонукають користувачів «копати глибше», переходячи за посиланнями.

Компанія зацікавлена в тому, щоб мати рацію: якщо Google перестане годувати веб-сайти, які від неї залежать, вона може в кінцевому підсумку покладатися на все більш низькоякісні дані – і рекомендувати робити гірше, ніж їсти каміння.

Джерело:

https://www.telegraph.co.uk/business/2024/05/28/google-malfunctioning-ai-risks-ruining-internet/

Статтю підготував студент 4-го курсу Національного технічного університету України “Київський політехнічний інститут імені Ігоря Сікорського” – Рейзер Артем