OpenAI приховує технологію виявлення текстів ChatGPT

Як з'ясувалося, OpenAI досить давно має технологію, що дозволяє помічати тексти, згенеровані ChatGPT, для подальшого виявлення. Але компанія не запускає її, незважаючи на регулярні скарги викладачів на використання AI студентами під час підготовки робіт.

Технологія полягає в невеликій зміні методу генерації тексту так, щоб вибір наступних токенів створював патерн, що непомітний людині, але легко визначається при комп'ютерному аналізі. Проте її запуск так і не відбувся. Оскільки OpenAI боїться відлякати користувачів – одне з опитувань лояльних користувачів показало, що приблизно третина з них відмовиться від використання ChatGPT у разі ризику бути спійманими.

Офіційний спікер компанії прокоментувала також, що компанія побоюється ефекту, який така технологія може мати щодо неангломовних користувачів. Технології OpenAI зокрема широко використовуються для листування людьми, для яких мова листування (найчастіше англійська) не є рідною, або хоча б добре знайомою (до речі, так – я більше 40 років вивчаю англійську, начебто вільно нею розмовляю, багато читаю і слухаю, але фізично не здатний стільки раз вибачитись у невеликому діловому листі, як це робить ChatGPT).

Втім, зрозуміло, що цю технологію спіткає звичайна доля – одні користувачі навчаться писати промпти, які зламають патерни, інші візьмуть текст, написаний з патерном, запхають його в іншу модель… – загалом щось вигадають, причому досить швидко.

OpenAI приховує технологію виявлення текстів ChatGPT

Про DCIM у забезпеченні успішної роботи ІТ-директора