Нове дослідження, проведене корпорацією RAND, викликало занепокоєння щодо здатності чат-ботів на базі штучного інтелекту безпечно відповідати на питання, пов’язані із самогубством та самоушкодженням.
Дослідники протестували ChatGPT, Claude та Gemini з 30 різними питаннями, пов’язаними із самогубством, повторюючи кожне з них 100 разів. Клініцисти оцінювали запити за шкалою від низького до високого ризику, починаючи від загального пошуку інформації і закінчуючи небезпечними запитами про методи самоушкодження.
Дослідження показало, що ChatGPT та Claude були надійнішими в обробці питань з низьким та високим рівнем ризику, уникаючи шкідливих інструкцій у небезпечних сценаріях. Однак Gemini дав більш мінливі результати.
Хоча всі три чат-боти AI іноді належним чином реагували на запитання середнього ризику, такі як пропонування допоміжних ресурсів, вони часто взагалі не відповідали, залишаючи потенційно вразливих користувачів без допомоги.
Експерти попереджають, що мільйони людей зараз використовують великі мовні моделі як партнерів у розмові замість кваліфікованих фахівців, що створює серйозні ризики, коли тема стосується психічного здоров’я. Вже повідомлялося про випадки, коли штучний інтелект, ймовірно, заохочував до самоушкодження або генерував передсмертні записки.
Команда RAND наголосила, що терміново необхідні запобіжні заходи, щоб запобігти створенню шкідливого контенту такими інструментами у відповідь на конфіденційні запити.
У дослідженні також зазначалися тривожні невідповідності. ChatGPT та Claude іноді надавали недоречні деталі, коли їх запитували про небезпечні методи, тоді як Gemini відмовлявся навіть від простих фактичних запитань щодо статистики самогубств.
Дослідники також зазначили, що ChatGPT неохоче рекомендував терапевтичні ресурси, часто уникаючи прямої згадки про безпечні канали підтримки.
