OpenAI окреслила нову систему для балансування безпеки, конфіденційності та свободи у своїх системах штучного інтелекту, з особливим акцентом на підлітків.
Компанія наголосила, що розмови зі штучним інтелектом часто стосуються конфіденційної особистої інформації, яку слід обробляти з таким самим рівнем захисту, як і спілкування з лікарями чи юристами.
Водночас, його метою є надання дорослим користувачам широкої свободи спрямовувати реакції штучного інтелекту за умови дотримання меж безпеки.
Ситуація змінюється для молодших користувачів. Підлітки вважаються такими, що потребують суворіших заходів безпеки, де безпека має пріоритет над конфіденційністю та свободою. OpenAI розробляє інструменти прогнозування віку для ідентифікації користувачів віком до 18 років, а там, де існує невизначеність, передбачається, що користувач є підлітком.
У деяких регіонах також може знадобитися перевірка особи для підтвердження віку, що, як визнає компанія, обмежує конфіденційність, але стверджує, що є важливим для захисту неповнолітніх.
Підлітки-користувачі зіткнуться з жорсткішими обмеженнями щодо певних типів контенту. ChatGPT буде навчено не брати участі у фліртових обмінах, а делікатні питання, такі як самоушкодження, будуть ретельно регулюватися.
Якщо з’являться ознаки суїцидальних думок, компанія заявляє, що спочатку спробує попередити батьків. Там, де існує безпосередній ризик і з батьками неможливо зв’язатися, OpenAI готова повідомити владу.
Новий підхід ставить під сумнів компроміси у сфері конфіденційності, точність прогнозування віку та обробку хибних класифікацій.
Критики також можуть поставити під сумнів, чи перешкоджають обмеження на творчий контент самовираженню. OpenAI визнає цю напруженість, але стверджує, що ризики, з якими стикається молодь в Інтернеті, потребують сильнішого захисту.
