5
У 2018 році озброєний чоловік убив та поранив десятки людей у середній школі в Паркленді, штат Флорида — нині проєкт The Shotline використав голоси вбитих дітей для автоматизованих дзвінків законодавцям, щоб лобіювати посилення законів про зброю в США.
Як повідомляє The Wall Street Journal, проєкт використовує синтезовані голоси шести застрелених дітей (деяких у віці до 10 років). Замовити дзвінок може, хто завгодно — для цього потрібно ввести поштовий індекс і The Shotline відшукає місцевого представника для здійснення виклику.
«Я повернувся, тому що батьки за допомогою штучного інтелекту відтворили мій голос, щоб я міг зателефонувати тобі», — каже згенерований ШІ голос Хоакіна Олівера, одного з підлітків, убитих під час стрілянини в Паркленді. «Інші жертви теж будуть дзвонити».
На момент публікації через вебсайт було отримано понад 8000 звернень.
«Це проблема США, і ми не змогли її вирішити», — сказав батько Олівера Мануель, який започаткував проєкт разом зі своєю дружиною Патрісією. «Якщо нам потрібно використовувати моторошні речі, щоб виправити це, ми це зробимо».
Для синтезу голосів Олівери використали функцію ElevenLabs — стартапу, що нещодавно зібрав понад $80 млн фінансування. Інструмент дозволяє генерувати голоси більш ніж 20 мовами на основі кількахвилинного зразка.
Повідомляється, що для синтезу голосу Хоакіна Олівера, були використані його публікації у соцмережах. Батьки та опікуни інших жертв можуть також заповнити форму і надіслати записи їхніх голосів у сховище The Shotline.
Проєкт порушує етичні питання щодо використання штучного інтелекту для створення дипфейків голосів померлих людей. Минулого тижня Федеральна комісія зі зв’язку оголосила, що автоматичні дзвінки, здійснені з використанням голосу, згенерованого штучним інтелектом, є незаконними — рішення було прийняте після того, як виборці в Нью-Гемпширі отримали дзвінки зі штучним голосам Байдена, який закликав їх пропустити праймеріз. Аналіз, проведений охоронною компанією Pindrop, показав, що звуковий дипфейк також був створений за допомогою програмного забезпечення від ElevenLabs.
Джерело: Про ІТ