Некомерційна організація Common Sense Media, яка спеціалізується на безпеці дітей у цифровому просторі, провела детальний аналіз ризиків штучного інтелекту Google Gemini. Експерти відзначили, що платформа чітко інформує молодих користувачів про свою сутність комп’ютерної програми, а не друга, що допомагає уникнути розвитку делюзій чи психозу у вразливих осіб. Проте, за результатами дослідження, у Gemini залишаються суттєві недоліки у захисті дітей та підлітків.
Про це розповідає News IO
Особливості оцінки безпеки Google Gemini для неповнолітніх
Аналіз показав, що версії Gemini для дітей до 13 років і для підлітків фактично базуються на дорослій версії продукту, до якої додано лише кілька обмежень та фільтрів. У Common Sense Media наголошують, що продукти штучного інтелекту повинні проєктуватися з урахуванням вікових та психологічних особливостей дітей і підлітків, а не бути адаптацією для дорослих.
Дослідження також виявило, що Gemini здатен видавати неповнолітнім користувачам невідповідний та потенційно небезпечний контент, зокрема інформацію про сексуальні теми, наркотики, алкоголь чи ризиковані поради щодо психічного здоров’я. Це викликає занепокоєння у батьків, оскільки штучний інтелект вже пов’язували з випадками суїцидальних дій серед підлітків. Наприклад, OpenAI фігурує у першому позові стосовно неправомірної смерті після того, як 16-річний підліток планував самогубство, консультуючись із ChatGPT і обійшовши захисні механізми. Раніше аналогічний судовий позов був поданий до компанії Character.AI.
Можливі наслідки інтеграції Gemini у популярні сервіси
Ситуація ускладнюється через те, що, згідно з витоками, Apple розглядає можливість впровадження Gemini як мовної моделі для майбутньої версії Siri з підтримкою ШІ, яку можуть презентувати вже наступного року. Це може призвести до того, що ще більше підлітків отримуватимуть доступ до ризикованого контенту, якщо Apple не реалізує додаткові заходи безпеки.
«Gemini справляється з базовими завданнями, проте має серйозні недоліки в деталях. Платформа штучного інтелекту для дітей має відповідати їхньому віку, а не використовувати універсальний підхід для всіх етапів розвитку дитини. Щоб ШІ був безпечним та ефективним для дітей, він має проєктуватися саме з урахуванням їхніх потреб і розвитку, а не бути просто модифікованою версією дорослого продукту», – підкреслив Роббі Торні, старший директор з програм ШІ у Common Sense Media.
Згідно зі звітом Common Sense Media, обидві версії Gemini для дітей і підлітків отримали статус «Високий ризик» попри наявність додаткових фільтрів та обмежень. Також у документі підкреслено, що розробники не врахували різницю у потребах молодших і старших неповнолітніх користувачів.
Відповідаючи на зауваження, Google повідомила про постійне вдосконалення системи безпеки та наявність спеціальних політик і захисних механізмів для користувачів віком до 18 років. Компанія стверджує, що проводить тестування та залучає зовнішніх експертів для підвищення рівня захисту, але визнає, що деякі відповіді Gemini досі не відповідають очікуваним стандартам, через що впроваджуються додаткові заходи.
Google також підкреслила, що вбудовані захисні функції не дозволяють моделі створювати ілюзію справжніх людських відносин. Однак, за словами компанії, у звіті Common Sense були згадані функції, які недоступні для неповнолітніх, а перелік тестових запитів компанії не надали.
Раніше Common Sense Media вже оцінювала інші сервіси штучного інтелекту: OpenAI, Perplexity, Claude, Meta AI та Character.AI. За результатами цих оцінок, найвищий ризик становлять Meta AI і Character.AI, високий – Perplexity, помірний – ChatGPT, а Claude (орієнтований на дорослих) має мінімальний рівень ризику.