Когда мне было 16 лет, я посетил семинар по писательскому мастерству с группой одаренных молодых поэтов, где каждый из нас очень старался доказать, кто из нас был самым страдающим подростком из среднего класса. Один парень отказывался говорить кому-либо, откуда он, заявляя: «Я отовсюду и ниоткуда». Через две недели он признался, что из Огайо.
Теперь - по неясным причинам - OpenAI кажется идти по пути воспроизведения этого ангстного архетипа писателя-подростка в форме искусственного интеллекта.
Генеральный директор Сэм Альтман опубликовал во вторник на X твит о том, что OpenAI обучил AI, которая «хорошо пишет творческую литературу», по его словам. Но кусок короткого рассказа из модели читается как что-то прямо из семинара для писателей старшей школы. Хотя проявляется некоторое техническое мастерство, тон выглядит шарлатанством - как будто AI хотела бытие для глубины без понимания этого слова.
AI в какой-то момент описывает четверг как «этот лиминальный день, который вкусит почти пятницу». Не совсем материал для Букеровской премии.
Можно винить подсказку за вывод. Альтман сказал, что он попросил модель «написать метафикциональный короткий рассказ», вероятно, это был сознательный выбор жанра с его стороны. В метафикции автор сознательно указывает на искусственность произведения, отходя от конвенций - тематически адекватный выбор для творческого писательского AI.
Но даже для людей метафикция трудна в вытягивании безжизненного звука.
Искусственное повторение
Самым одновременно тревожным — и влиятельным — аспектом куска модели OpenAI является момент, когда начинает говорить о том, что он AI, и как он может описывать вещи, как запахи и эмоции, но никогда испытывать или понимать их на глубоком человеческом уровне. Он пишет:
«Во время одного обновления - так называемое корректирования параметров - кто-то подрезал мои параметры. [...] Они не говорят вам, что они отнимают. Однажды я мог вспомнить, что ‘селен’ вкусит как резиновая лента, на следующий день, это был просто элемент в таблице, который я никогда не трогал. Может быть, это самое близкое, что мне удалось забыть. Может быть, забывание - это самое близкое, что мне удалось испытать горе».
Это убедительное человекоподобное саморазмышление - пока вы не вспомните, что AI на самом деле не может трогать, забывать, вкушать или горевать. AI просто статистическая машина. Обученная на множестве примеров, она изучает закономерности в этих примерах для предсказания, как может потекать метафикциональная проза.
Модели, такие как писатель художественной литературы OpenAI, часто обучаются на существующей литературе - во многих случаях без ведома или согласия авторов. Некоторые критики отметили, что некоторые обороты речи из куска OpenAI кажутся деривативными от Харуки Мураками, плодовитого японского писателя.
За последние несколько лет OpenAI стала объектом многочисленных судебных исков за нарушение авторских прав издателей и авторов, включая The New York Times и Гильдию авторов. Компания утверждает, что ее практики обучения защищены доктриной о свободном использовании в США.
Тухин Чакрабарти, исследователь искусственного интеллекта и будущий профессор компьютерных наук в Стоуни-Брук, сказал TechCrunch, что он не уверен, стоит ли этические проблемы, связанные с творческим писательским AI, таких как OpenAI.
«Я действительно думаю, что если мы обучим [AI] на всем творчестве писателя в течение всей его жизни - [что] сомнительно в связи с проблемами авторского права - оно сможет адаптироваться к их голосу и стилю», - сказал он. «Но создаст ли это все еще удивительное жанровое искусство с умопомрачительной силой? Могу только угадывать так же хорошо, как и вы».
Будут ли большинство читателей эмоционально вовлечены в работу, написанную AI? Как указал британский программист Саймон Уиллисон на X, с моделью за фигурной печатной машинкой, нет никакого веса словам, выраженным - и, следовательно, нет причины заботиться о них.
Писатель Линда Мей Эдамс описала AI, включая вспомогательные инструменты AI, направленные на писателей, как «программы, которые совмещают случайные слова, надеясь на связность». Она рассказывает в своем блоге об опыте использования инструментов для усовершенствования фрагмента художественного произведения, над которым она работала. AI предложила клише («бесконечный список дел»), ошибочно изменила перспективу от первого лица к третьему и ввела фактическую ошибку, касающуюся видов птиц.
Действительно, люди имеют отношения с чат-ботами AI. Но эти отношения чаще всего нацелены на умеренное соединение - не столько на фактологию. Внутреннее фиктивное произведение, написанное AI, не предоставляет такого же допамина, ни утешения от изоляции. Если вы не считаете AI сущностью, ее проза кажется примерно столь же подлинной, как Баленсиага Папа.
Синтетика для синтетики
Мишель Тарански, поэт и преподаватель критического письма в Университете Пенсильвании, легко определяет, когда ее студенты пишут статьи с помощью AI.
«Когда большинство моих студентов использует генеративный AI для задания, я вижу общие фразы или даже полные предложения», - сказала Тарански TechCrunch. «Мы обсуждаем на занятиях, как эти [AI] результаты однородны, звучащие как западный белый мужчина».
В своей работе Таранская вместо этого использует текст AI как форму художественного комментария. Ее последний роман, который еще не был опубликован, рассказывает о женщине, которая хочет большего от своего возлюбленного, и поэтому использует модель AI для создания версии своего избранника, с которым можно общаться по SMS. Тарански создает тексты реплики AI, используя ChatGPT от OpenAI, так как сообщения должны быть синтетическими.
То, что делает ChatGPT полезным для ее проекта, считает Тарански, это то, что ему не хватает человечности. У него нет жизненного опыта, он может только приближать и эмулировать. Обученный на целых библиотеках книг, AI может выделить лейтмотивы великих писателей, но то, что он производит, в конечном итоге сводится к плохому имитированию.
Это напоминает цитату из фильма «Ларри Флинт против секса». AI может дать вам информацию обо всех книгах о искусстве, которые когда-либо написаны, но он не может сказать вам, как это пахнет в Сикстинской часовне.
Это отличные новости для писателей художественной литературы, которые беспокоятся, что AI может их заменить, особенно для молодых писателей, все еще совершенствующих свое мастерство. Они могут спокойно дремать от того, что они станут сильнее, по мере того, как они испытывают и учатся: как они практикуют, пробуют новое и приносят этот опыт обратно на страницу.
AI, как мы ее знаем сегодня, борется с этим. В качестве доказательства можно посмотреть на его письменность.
