Google Gemini порадив «засвітити» фотоплівку у демонстрації «розумного» пошуку

Під час презентації Google I/O 2024 окрім нових технологій штучного інтелекту програмний гігант мимоволі продемонстрував й головну ваду сучасних ШІ — помилки, неправильні та шкідливі поради.

Презентація Google «Пошук в епоху Gemini» показала нову можливість — пошук за відео. Прикладом стало відео застряглого важеля просування плівки на плівковому фотоапараті, яке супроводжувалося питанням: «Чому важіль не рухається до кінця?»

ШІ у відповідь запропонував вельми «цікаве» розв’язання проблеми, яке може знищити зроблені кадри.

«Відкрийте задню кришку та акуратно приберіть плівку, якщо камера заклинила».

Так, мовна модель запропонувала «засвітити» плівку. Будь-хто, хто користувався плівковою камерою, знає, що це жахлива ідея. Якщо відкрити камеру під час знімання, можна зіпсувати частину плівки або навіть усю через світло, яке на неї потрапить. Це буквально найгірше, що можна запропонувати в цій ситуації.

Також нагадаємо, що це не перший випадок, коли мовні моделі від Google були впіймані на викривленні фактів. Минулого року чатбот Bard заявив, що космічний телескоп «Джеймс Вебб» першим сфотографував планету за межами Сонячної системи (це неправда). Раніше співробітники Google називали Bard «патологічним брехуном».

А уже новий ШІ Google Gemini був «упійманий» у викривленні історичних даних — на зображеннях він відмовлявся відтворювати білих людей там, де вони мали бути за контекстом.

Google показав Project Astra — ШІ-асистента з голосовим та візуальним розпізнаванням, схожого на GPT-4o

Джерело: The Verge