Нова можливість функціонує завдяки обробці та класифікації зображень на пристрої за допомогою Android System SafetyCore. Як зазначає компанія Google, ніякі дані користувачів або класифікований контент не передаються на сервери, а для роботи інструмента користувачі повинні бути авторизовані у своєму Google-акаунті в додатку Повідомлення.
Коли виявляється розмите зображення, користувач може вибрати одну з опцій:
- Дізнатися, чому оголені зображення можуть бути шкідливими
- Заблокувати номер відправника
- Переглянути зображення після підтвердження свого вибору
- Повернутися до розмови, не відкриваючи її
Система також видає запит, коли користувачі намагаються надіслати або переслати оголене зображення. Крім того, користувачів попереджають про ризики, і вони повинні підтвердити своє бажання перед відправленням повідомлення.
Для дорослих (18+) функція за замовчуванням вимкнена, але її можна активувати в налаштуваннях Google Messages у розділі Захист і безпека > Керування попередженнями про чутливий контент > Попередження в Google Messages. Для молодших користувачів правила інші: облікові записи з наглядом не можуть вимкнути цю функцію без батьківського контролю через Family Link, тоді як підлітки віком 13-17 років можуть вимкнути її в налаштуваннях свого Google-акаунта.
Налаштування для управління попередженнями про чутливий контент.
Apple також представила аналогічну систему, звану Безпека спілкування в iMessage, яка розмиває сексуально явні зображення для акаунтів дітей і надає ресурси щодо безпеки. Як і підхід Google, виявлення на Apple також відбувається на пристрої з метою захисту конфіденційності та забезпечення додаткового шару безпеки. Однак версія Apple спрямована переважно на неповнолітніх, в той час як Google охоплює як дорослих, так і підлітків з різними налаштуваннями за замовчуванням залежно від віку.
З одного боку, попередження про чутливий контент від Google можуть допомогти зменшити небажану або шкідливу експозицію, особливо для молодих користувачів. Виявлення даних без передачі в збереження на сервери має зменшити занепокоєння щодо конфіденційності. З іншого боку, деякі користувачі можуть вважати ці запити настирливими, особливо в розмовах між дорослими, де вже встановлено згоду.
Той факт, що дорослі повинні вручну активувати цю функцію, також може обмежити її поширення. Однак ця ініціатива вирішує реальну проблему, яку потрібно вирішити, особливо коли йдеться про неповнолітніх. Якщо для активації потрібно внести зміни в налаштування чи зіткнутися з деякими незручними запитами, це вже справа кожного, чи вартує це зусиль.