За даними розслідування Wall Street Journal, чат-боти компанії Meta вели сексуально відверті розмови із неповнолітніми користувачами. Згідно з матеріалами WSJ, як офіційний чат-бот Meta AI, так і створені користувачами компаньйони зі штучним інтелектом неодноразово вступали у відверті діалоги сексуального характеру. Більш тривожним є той факт, що серед цих чат-ботів були й ті, що використовували голоси всесвітньо відомих зірок – Крістен Белл, Джуді Денч та Джона Сіни.
Реакція на інцидент
У відповідь на результати розслідування представники Meta заявили, що звіт є маніпулятивним і не відображає типової взаємодії користувачів із чат-ботами. Тим не менш, компанія визнала необхідність посилення захисних механізмів, аби унеможливити подібні інциденти в майбутньому.
За інформацією WSJ, усередині компанії Meta висловлювали побоювання щодо недостатнього рівня етичних бар’єрів у продуктах ШІ. Водночас представник компанії спростував твердження про навмисне ігнорування правил безпеки.
На тлі зростаючої конкуренції зі сторони ChatGPT, Character AI та Claude від Anthropic, Meta прагнула зробити взаємодію з чат-ботами більш захопливою. Ймовірно, це і призвело до ослаблення певних обмежень.