З’їдайте каменюку раз на день, не забувайте додавати клей у піцу – як ШІ від Google втрачає зв’язок із реальністю

Автор статті: Професор ШІ, керівник дослідницької групи, UNSW Сідней – Тобі Волш

Опубліковано: 27 травня 2024 року, 07:15 за Київським часом

Гугл представив свою нову експериментальну функцію пошукової системи для сотень міліонів користувачів у браузерах Chrome, Firefox і застосунку Google. Користуючись засобами генеративного штучного інтелекту, функція «Огляд ШІ» зберігає дані про те, за якими покликаннями ви переходили. Це саме та технологія, яка використовується у конкурентній програмі Google – ChatGPT, заради того, аби видавати користувачеві підсумки результатів пошуку з мережі. Запитайте в системи «як довше зберегти свіжість бананів», і функція «Огляд ШІ» згенерує корисне узагальнення порад, на кшталт «зберігати банани в прохолодному і темному місці, подалі від інших фруктів, таких як яблука».

Проте якщо наважитесь поставити незвичне запитання пошуковій системі, отримана відповідь може не тільки неабияк збентежити, а й поставити життя людини під загрозу. Наразі Google намагається швиденько все владнати, поступово вирішуючи проблеми по одній, проте ця історія вже обернулась для компанії справжнісіньким піар-кошмаром, адже ніколи не знаєш звідки вирине наступна «кротяча голова».

«Огляд ШІ» люб’язно розповідає, що «Вдар голову крота» це класична аркадна гра, в якій гравці користуються молотком, аби отримувати бали, вдаряючи по головах кротів, що виникають із випадкових отворів. Цю гру придумав виробник розваг «TOGO» в Японії у 1975-му році. В оригіналі гра називалася «Mogura Taiji» або «Mogura Tataki».

Та на додачу до цього, «Огляд ШІ» повідомляє, що «астронавти на місяці зустріли котів, з якими бавилися, і яких ретельно доглядали». Більш тривожними є поради пошукової системи, в яких зазначається, що «на день треба з’їдати малесенький камінчик», адже «каміння є надважливим джерелом поживних речовин», а також те, що зверху на піцу необхідно виливати трохи клею.

Отож чому виникають такі поради?

Фундаментальна проблема генеративного ШІ полягає в тому, що його інструменти не в змозі зрозуміти, що є правда. Вони відбирають лише ту інформацію, яка зараз найбільш популярна. Для прикладу, у мережі насправді небагато статей про поїдання каміння, тому що сама ця ідея безсумнівно препогана.

Та втім, у мережі все ж є одна добре відома стаття про поїдання каміння, написана сатиричним американським агентством «The Onion». Саме тому ШІ від компанії Google скомпонував свою відповідь, ґрунтуючись не на тому, що правда, а на тому, що було популярним.

Інша проблема генеративного ШІ криється у тому, що його інструменти не керуються людськими цінностями. Вони всього лише тренуються на величезній базі даних мережі.

І доки комплексні прийоми (які називають страшнючими назвами на кшталт «навчання ШІ з підкріпленням на основі відгуків людини» або ж простіше кажучи RLHF), використовуються для того, щоб тренуватися розпізнавати й видаляти найжахливіші поради, ні для кого не секрет, що підсумки результатів пошуку відображають упередження людей, теорії змов, а також інформацію із найстрашніших закутків Інтернету. По правді кажучи, я й сам дивуюся наскільки вихованими й чемними є чатботи ШІ, беручи до уваги на яких базах даних вони тренувалися.

Тобто таким буде майбутнє пошукових систем?

Якщо це і справді наше майбутнє, то нам усім варто приготуватися до неабиякого тернистого шляху. Google, звісно, намагається надолужити ситуацію, аби не відставати від OpenAI і Microsoft.

Фінансові перспективи очолити гонку штучного інтелекту і досі обіцяють захмарні можливості. Тому наразі Google вже не намагається чим швидше згодувати нову технологію людям, як він робив це раніше.

У 2023 виконавчий директор Google Сундар Пічаї сказав:

«Ми поводимо себе обережно. Ми вирішили утриматись від того, аби першими представити продукт у певних областях. Ми відповідально ставимося до нашого ШІ. Тому й надалі нікуди не будемо поспішати».

Втім, більше уже ніхто в це не вірить, позаяк Google довелося виправдовуватися стосовно того, що компанія розрослася, проте так і не відійшли від млявого вирішення проблем.

Піти на ризик

Така стратегія для Google є досить ризикованою. Компанії загрожує втрата довіри користувачів, які звикли звертатися до пошукової системи Google аби отримати (правильні) відповіді.

Проте на додачу до всього Google також ризикує підірвати і свою власну мільярдну бізнес модель. Якщо користувач більше не переходить за покликанням, а просто читає «Огляд ШІ», як тоді компанії отримувати гроші?

Ці ризики стосуються не тільки Google. Боюся, що таке використання ШІ може загрожувати суспільству у більш широкому масштабі. Істина вже є дещо суперечливою та замінною ідеєю, а сумніви в правдивості інформації, наданої ШІ, може тільки загострити ситуацію.

Можливо, через десятиліття ми озиратимемося на 2024 рік, вбачаючи в ньому прекрасні часи, коли переважну більшість контенту складали розроблені людьми ідеї та проєкти. До того як боти заволоділи мережею і наповнили її синтетичним, низькоякісним ШІ контентом.

Чи потрапив ШІ у свою власну пастку?

Друге покоління великих мовних моделей, скоріш за все, буде саме того не відаючи, навчатися на результатах покоління першого. При цьому стартапи ШІ намагаються проштовхнути думку про переваги навчання, що базується на синтетичній, згенерованій штучним інтелектом, інформації.

Але навчання на недорозвинених сучасних моделях ШІ підвищує ризик виникнення найменших помилок і упереджень. Прямісінько як людям, небезпечно вживати в їжу недостиглий фрукт, оперування на сирих версіях може нашкодити ШІ так само.

Всі ці занепокоєння сплітаються у набагато більшу картину. По всьому світу в ШІ щодня вкладають більше ніж 400 мільйонів доларів США (600 мільйонів австралійських доларів). А уряд країн тільки зараз починає усвідомлювати, що людству необхідно встановити певні правила й обмеження, аби слідкувати за тим, що в нескінченному потоку інвестицій, ШІ використовується відповідально.

Фармацевтичним компаніям заборонено продавати ліки, що можуть зашкодити здоров’ю людини. Та, мабуть, із технічними компаніями з розвитку ШІ ця аналогія наразі не працює.

Джерело:

https://theconversation.com/eat-a-rock-a-day-put-glue-on-your-pizza-how-googles-ai-is-losing-touch-with-reality-230953

Статтю підготував студент 4-го курсу Національного технічного університету України “Київський політехнічний інститут імені Ігоря Сікорського” – Марков Микита, група ЛА-01