Особенно активно процесс механизации шел в XX веке, и появление компьютеров его только ускорило. Но настоящий прорыв произошел в 1997 году, когда были созданы LSTM-сети (Long short-term memory).
Это особый вид рекуррентных нейросетей, которые могут обучиться долговременным зависимостям. То есть они способны на длительное сохранение информации и повторное обращение к ней. А сейчас существуют еще более совершенные сети-трансформеры на основе алгоритма GPT (Generative Pre-trained Transformer).
Например, вы пишете рассказ при помощи GPT-2, и эта сеть способна запомнить подряд 1024 токена, то есть частей слов, слов или отдельных букв, из которых состоит ваш текст. Допустим, в первом предложении вы ввели персонажа по имени Василий. Если вы повторите имя этого героя в течение следующих 1024 токенов, то сеть «вспомнит» его и поймет, что это тот же герой.
А вот при разработке экспериментальной нейросети «НейроСтаниславский» был задействован еще более совершенный алгоритм последнего поколения GPT-3, способный запомнить 2048 токенов. Сеть создана студентами Университета науки и технологий МИСИС в коллаборации с Биеннале театрального искусства.
Образец взаимодействия человека с ИИ: реплика режиссера и ответ на нее, сгенерированный «НейроСтаниславским». Изображение: МИСИСЗа основу была взята общедоступная модель RuGPT-3, предварительно наученная русскому языку. Для ее дальнейшего обучения на драматурга был подобран датасет, в который вошли пьесы Чехова, Островского и других русских классиков. В итоге получилось 14 000 диалогов «реплика-ответ» и «реплика, реплика – ответ».
Затем разработчики сравнили результаты разных моделей на нескольких датасетах и оценили их показатели: время предсказывания, количество логичных ответов и др.
В итоге для дальнейшей работы оказались выбраны RuGPT3_small для ответа на реплику и RuGPT3_medium для продолжения реплики. Для масштабного обучения «НейроСтаниславского» были задействованы мощности одного из суперкомпьютеров.
Первое произведение искусственного драматурга уже не только написано, но и поставлено на сцене: режиссер Ярослав Шевалдов в соавторстве с «НейроСтаниславским» создал фрагмент, посвященный К. С. Станиславскому и В. И. Немировичу-Данченко. Источником вдохновения стала книга Станиславского «Моя жизнь в искусстве».
В конце прошлого года этот фрагмент был поставлен артистами театра «Ведогонь» и сыгран на Всероссийской научно-практической конференции «Репертуарный театр в контексте XXI века».