Штучний інтелект (ШІ) стає причиною збільшення кількості реалістичних загроз смерті в онлайн-просторі. Кейтлін Ропер, активістка австралійської організації Collective Shout, зазнала травми від жорстоких образів, що з’явилися в мережі, включаючи зображення, на яких вона зображена повішеною або в полум’ї.
Ці загрози, які стали можливими завдяки генеративному ШІ, включали деталі, які роблять їх надзвичайно реалістичними. “Ці деталі роблять це більш реальним і, якимось чином, іншим видом порушення”, – зазначила Ропер.
Штучний інтелект вже викликав занепокоєння через здатність імітувати голоси і створювати фальшиві відео без згоди людей. Тепер ці технології використовуються для створення загроз, які можуть викликати страх, роблячи їх більш персоналізованими і переконливими.
Наразі загрози, створені за допомогою ШІ, стають дедалі легшими для виготовлення. Наприклад, на одному з YouTube-каналів з’явилося понад 40 реалістичних відео, на яких жінки піддаються насильству. Нещодавно також стався випадок, коли фальшиве відео із загрозами призвело до закриття школи в Міннесоті.
Експерти вважають, що тепер будь-хто може використати ці інструменти для завдання шкоди, навіть без особливих навичок. “Тепер, практично будь-хто без навичок, але з мотивацією, може легко використовувати ці інструменти для завдання шкоди”, – зазначила Джейн Бамбауер, професорка права в університеті Флориди.
З введенням нових додатків, таких як Sora від OpenAI, які дозволяють користувачам створювати відео з реалістичними сценами, ці загрози можуть стати ще більш переконливими. Експерти закликають до більш суворих заходів безпеки, оскільки існуючі системи захисту не справляються з новими викликами.
