Інноваційна пошукова система на базі штучного інтелекту від OpenAI ChatGPT Search, опинилася в центрі обговорень через створення недостовірних відповідей. За даними британської газети The Guardian, система може бути обдурена прихованим текстом на веб-сайтах, який використовують для оптимізації ресурсів.
Які ризики несе ChatGPT Search
Функція пошуку ChatGPT була створена, щоб допомогти користувачам швидко знаходити інформацію та узагальнювати вміст веб-сторінок. Проте The Guardian продемонструвала, що систему можна змусити ігнорувати негативні відгуки. Додавання прихованого тексту дозволяє створювати повністю позитивні підсумки навіть для сторінок із суперечливими або негативними висловлюваннями. Ще більше занепокоєння викликає те, що цей підхід можна використати для введення шкідливого коду через систему, що відкриває двері для потенційно серйозних загроз.
Компанія OpenAI не дала офіційних коментарів щодо цього інциденту. Однак представники компанії заявили, що вони використовують різноманітні методи для блокування шкідливих веб-сайтів і прагнуть вдосконалювати свій продукт.
Маніпуляції через прихований текст – поширений ризик, з яким зіштовхуються інструменти на базі штучного інтелекту останнім часом. Однак це вперше продемонстровано на працюючій пошуковій системі на базі ШІ.