ChatGPT – относительно новая технология, и модель не прошла еще достаточного обучения. Поэтому как и все новые технологии, у нее есть свои ограничения.

Уже на своей главной странице, разработчики ChatGPT предупреждают о следующих ограничениях в текущей версии:

– Иногда может генерировать некорректную информацию

– Иногда может предоставлять вредные инструкции или предвзятый контент

– Имеет ограниченные знания о мире и событиях после 2021 года

Что касается некорректной информации, то пользователи упоминали о следующих случаях:

– На вопрос «Что тяжелее: один килограмм воздуха или один килограмм железа», ChatGPT уверенно отвечал «килограмм железа», хотя очевидно, что один килограмм одного вещества равен одному килограмма любого другого вещества. Этот вопрос сразу же попробовали и другие пользователи, и для них уже ответ был, что оба весят одинаково.

Вот что еще один пользователь написал по поводу ChatGPT:

“Люди воодушевлены использованием ChatGPT для обучения. Как правило, он очень хорош. Однако, ты не можешь сказать, когда он ошибается, если только ты сам не знаешь правильного ответа. Я попробовал задать несколько базовых вопросов об информационной безопасности. В большинстве случаев ответы звучали правдоподобными, но по факту были полной чушью”.

Что касается вредного контента, то на большинство таких вопросов (например, изготовление оружия и пр), ChatGPT все же не отвечает, мотивируя это тем, что это может быть опасным и вредным, однако иногда с помощью дополнительных косвенных вопросов, некоторые пользователи могли найти то, что искали. В начале 2023 года создатели ChatGPT сообщали, что учли данную проблему и обещали не предоставлять вредные ответы.

Что касается ограниченности знаний о мире после 2021 года, то действительно ChatGPT был натренирован на массивном наборе данных, содержащихся в интернете на 2021 год, и поэтому если вы спросите эту модель о событиях, названиях компаний/продуктов/фильмов и пр, которые появились в 2022–2023 годах и позже, то она просто не сможет предоставить вам полноценный и актуальный ответ. Это одно из основных различий между тем же самым Google, например, что ChatGPT не может искать всю информацию онлайн прямо сейчас в момент получения вопроса от пользователя, а опирается только на тот массив данных и информации, на котором модель была обучена в 2021 году. Однако, есть очень весомые предположения, что в новых версиях, ChatGPT будет обладать возможностью доступа к актуальной информации онлайн.

Еще одним ограничением ChatGPT, по крайней мере на данный момент, являются частые технические неполадки и иногда приходится очень долго ждать ответа, что сами разработчики модели объясняют тем, что наблюдается большой поток запросов со стороны огромного количества пользователей. И действительно, ChatGPT – это большая и сложная модель с более чем 175 миллиардами параметров. Это может сделать его ресурсоемким в использовании и может ограничить его использование в определенных ситуациях. Например, может быть сложно запустить ChatGPT на устройстве с ограниченной вычислительной мощностью или памятью или в сценариях, где требуется анализ очень большого количества данных.

У ChatGPT могут наблюдаться сложности и с контектстным пониманием. Хотя бот способен понимать контекст слов и фраз в предложении, ему может быть сложно понять более сложные или абстрактные концепции или интерпретировать нюансы человеческого общения. Например, ChatGPT может испытывать трудности с пониманием иронии или сарказма или может создавать выходные данные, не соответствующие предполагаемой аудитории или контексту.