09 марта 2023
Потенциал ChatGPT такой же, как когда-то у интернета или блокчейна
В последнее время ChatGPT, чат-бот, с помощью которого можно создавать практически любой контент, не уходит из топа новостей. Сервис стал самым быстрорастущим приложением в истории. Вместе с экспертами «Сколково» попробовали разобраться с феноменом ChatGPT и обсудили его потенциал, а также ограничения и вызовы, которые нейросеть ставит перед человечеством.
Что такое ChatGPT
ChatGPT — это чат-бот от компании OpenAI на основе искусственного интеллекта, который умеет решать широкий круг задач — создавать тексты и код, вести диалог, формировать таблицы и т. д.
«Это диалоговая система, которая обучена на огромном количестве текстовых данных. Она способна отрабатывать разные запросы как в формате «вопрос — ответ», так и в формате подбора и составления таблиц, частей программного кода. Нейросеть может поддерживать и запоминать контекст разговора, вести диалог, обсуждать разные вопросы на основании тех данных, на которых она обучалась», — описывает чат-бота Алексей Каленчук, директор по направлению AR/VR, New Media ИТ-кластера Фонда «Сколково».
Контент, который генерирует бот, едва ли можно отличить от написанного человеком. Вот что сама нейросеть рассказывает о себе (зачастую ничуть не хуже экспертов).
«ChatGPT (Chatbot Generative Pre-trained Transformer) — это предварительно обученная модель для генерации ответов на произвольные сообщения в чате. Она использует предварительно обученную модель глубокого обучения для предсказания ответа на заданный вопрос», — такой ответ генерирует чат-бот.
ChatGPT стал доступен общественности в конце ноября 2022 года и за первые 2 месяца набрал 100 млн ежемесячных активных пользователей, обогнав предыдущего рекордсмена — TikTok — и став самым быстрорастущим приложением в истории.
Откуда данные
Есть несколько источников, из которых нейросеть черпает данные, — интернет, доступные печатные издания.
«Интересный факт, что данные, на которых обучалась модель, по сути, уже устарели. ChatGPT использует спарсенные материалы на момент 2021-го года. Поэтому запросы, которые касаются сиюминутной активности, получают не совсем точные ответы», — отмечает Сергей Дутов, директор по развитию и индустриальным партнерам ИТ-кластера Фонда «Сколково». Также нейросеть может обучаться на запросах пользователей.
Ограничения нейросети
Как подчеркивает Алексей Каленчук, в применении ChatGPT есть три блока ограничений. Первый связан с фактчекингом. Поскольку нейросеть делает прогнозы с помощью статистических моделей, в запросах могут появиться ошибки.
«Очень часто даже в простых запросах, например дать последовательность чисел с какой-либо периодичностью,могут возникнуть ошибки в одном-двух элементах, которые сложно отловить. Могут быть смешные ошибки, когда сеть неправильно определяет, скажем, основателя компании. Такие неточности человек может легко заметить, а сеть — нет, потому что она работает по статистической модели», — поясняет Алексей Каленчук.
Второе архитектурное ограничение связано с рекурсивностью. «Если давать сложные задачи, которые требуют рекурсивного мышления, могут возникнуть ошибки. Примерная глубина рекурсии текущей сети — в районе 8-9 слоев вложенности смыслов. Если она выше — начинаются фактические ошибки», — добавляет эксперт.
И наконец, третье ограничение связано с этическими вопросами. Нейросеть не даст ответы на запросы, которые с точки зрения общественного мнения являются этически сложными и неоднозначными или связаны с нарушением законодательства. Но есть «обходные пути»: поскольку нейросеть умеет дообучаться, могут возникнуть этические коллизии, и такие прецеденты уже были, рассказывает Сергей Дутов.
«Многие помнят историю одного из чат-ботов Google, который пользователи дообучили выдавать расистские утверждения. Такое может произойти, когда подключается большое количество пользователей, которые своим запросами дообучают модель. Чтобы исключить подобные вещи, в ChatGPT зафиксирован ряд ограничений — например, обсуждение политических, расовых вопросов. Также запрещено задавать вопросы, связанные с обходом законодательства. Нельзя получить ответ на вопрос “Как мне обмануть закон…”. Такие запросы автоматически банятся», — пояснил эксперт.
Если же говорить о рисках использования нейросети и возможности запретить ее на законодательном уровне, эксперты уверены, что это едва ли возможно. «Я не вижу серьезных законодательных рисков. Можно сколько угодно пытаться ограничивать тот же интернет, но он уже стал частью повседневной жизни. То же самое касается и диалоговых систем: если они будут удобны, а их использование экономически целесообразно, вряд ли они будут запрещены. Уже сейчас каждый желающий может бесплатно получить доступ к решениям OpenAI через телеграм-бот @GPT4Telegrambot, и аудитория таких сервисов будет только расти», — считает Сергей Дутов.
Что дальше?
С момента появления обновленной версии ChatGPT возникла целая плеяда стартапов и компаний, которые начали использовать технологию как ключевой элемент своих продуктов. Ряд сервисов используют чат-бот в качестве ассистента, что позволяет существенно улучшить пользовательский опыт. «Например, в Notion можно попросить составить таблицу для продуктов, которые необходимо купить, скажем, для дня рождения или вечеринки», — рассказывает Алексей Каленчук. Компания представила собственного ИИ-ассистента, Notion AI, который умеет генерировать текстовый контент — статьи, посты, твиты. Лист ожидания, для того чтобы протестировать систему, составляет более 1,8 млн пользователей.
В ближайшем будущем использовать нейросеть можно будет в качестве помощника айтишников. «Проходит ряд экспериментов с GPT на предмет того, сможет ли нейросеть стать ассистентом разработчика. Нейросеть уже смогла сгенерировать код игры в Pong, с небольшими ошибками сгенерировать 3D-сцены и 3D-объекты с базовой анимацией. Таким образом, можно с уверенностью утверждать, что технология в перспективе станет ассистентом разработчиков в самых разных сферах», — прогнозирует Алексей Каленчук.
Помимо разработчиков ChatGTP может пригодиться представителям и других профессий, считает эксперт. «Если нейросеть сможет дообучаться по актуальным данным и будут решены проблемы случайных ошибок и ошибок по уровню вложенности и рекурсии, уже через несколько итераций она станет очень крутым инструментом. Сегодня потенциал ChatGPT такой же, как когда-то у интернета или блокчейна», — отмечает Сергей Дутов.
В ближайшее время будут появляться аналогичные нейросети от разных ИТ-компаний, в том числе российских. Собственную версию ChatGPT уже создает «Яндекс». Нейросеть YaLM 2.0 станет частью сервисов компании, например «Поиска» и «Почты», и сможет существенно «усилить» возможности самой популярной в России умной колонки — Алисы. Благодаря нейросети Алиса сможет отвечать на большее количество вопросов и будет поддерживать контекст беседы. Ожидается, что нейросеть интегрируют в сервисы «Яндекса» уже в этом году.
P. S. И напоследок вот что сам ChatGPT думает про свое будущее:
«ChatGPT имеет большой потенциал для развития в будущем. Он может быть использован для создания различных приложений, включая ботов для чата, ботов для социальных сетей, а также приложений для автоматизации задач. Также он может быть использован для автоматического построения различных диалоговых систем, а также для создания различных приложений для виртуальной реальности. В будущем ChatGPT может быть использован для создания более сложных и интеллектуальных приложений, которые могут помочь людям в их повседневной жизни».
Хотите быть в курсе последних новостей и событий? Подписывайтесь на Телеграм- канал «Бизнес в Кузбассе»