Meta презентувала нові інструменти для підвищення безпеки підлітків, що використовують Meta AI. У разі виявлення потенційних ознак суїцидальних думок або самоушкодження, буде можливість інформування батьків. Крім того, запроваджується можливість взаємодії з екстреними службами у критичних ситуаціях.
Сповіщення для батьків
Це нововведення орієнтоване на підлітків, чиї акаунти контролюються батьками в Instagram. У разі появи сигналів про можливий кризовий стан чи небезпеку самогубства або самоушкодження, система відправить повідомлення одному з батьків. До сповіщення додаються рекомендації експертів щодо розмови з дитиною та необхідної допомоги. Алгоритми розробляли за участю фахівців із психології, медицини і батьків, враховуючи навіть завуальовані сигнали. Кожен випадок перевіряється додатково перед відправленням сповіщення. Функція вже діє у США, Канаді, Великій Британії та Австралії, а до кінця року стане доступна в інших країнах.
Підключення екстрених служб
Meta також працює над системою, яка дасть змогу звертатися до служб порятунку у випадку загрози самогубства. Подібний механізм уже функціонує у Facebook та Instagram. Минулого року операції з інформування служб здійснювалися понад 19 тисяч разів у різних країнах.
Участь психологів
Для покращення відповідей Meta AI залучили понад 75 експертів у галузі психології. Вони аналізували численні сценарії, щоб оцінити доречність відповідей для дітей і підлітків. Тепер AI у розмовах на складні теми спочатку визнає емоції співрозмовника та наводить рекомендації щодо професійної допомоги.
Зміцнення обмежувальних заходів
Meta розширює режим Limited Content для підліткових акаунтів в Instagram. Це обмеження буде поширюватися й на спілкування з Meta AI, забороняючи реагувати на небезпечні чи неприйнятні запити. Це спрямовано на зниження можливості взаємодії підлітків із неприйнятним контентом. Головна мета – вчасно надати підтримку дітям і повідомити батьків про небезпечні ситуації до їх загострення.
Читайте новини Закарпаття Telegram / Facebook / Google News
