По словам компании, она использует различных поставщиков для решения таких проблем, как автоматизированные кампании по дезинформации и академическая нечестность. Недавно в Twitter завирусился тред, где студент российского ВУЗа написал диплом с помощью ChatGPT.
«Мы выкладываем этот классификатор в открытый доступ, чтобы получить отзывы о том, полезны ли несовершенные инструменты, подобные этому», — заявили в OpenAI.
В своем публичном бета-режиме OpenAI признает, что инструмент обнаружения очень ненадежен в текстах менее 1000 символов, а написанный ИИ текст может быть отредактирован, чтобы обмануть классификатор.
OpenAI заявила, что она взаимодействует с преподавателями для обсуждения возможностей и ограничений ChatGPT и продолжит работу над обнаружением сгенерированного ИИ текста.