2024-2-22 09:01 |
В среду пользователи ChatGPT начали сообщать о странных ответах чат-бота, включая переключение между языками, зацикливание, длинные и бессмысленные сообщения. Некоторые ответы просто можно было назвать бредом. OpenAI сообщила на своей странице статуса, что «расследует сообщения о неожиданных ответах от ChatGPT», а позднее заявила, что обнаружила проблему и работает над ее исправлением.
Один из пользователей рассказал, что попросил ChatGPT порекомендовать джазовые альбомы для прослушивания на виниле, и вместо ожидаемого списка получил только короткое пожелание «Приятного прослушивания!», за которым последовал бессмысленный набор слов.
Anyone else experiencing ChatGPT losing it?
byu/StackTrace5000 inChatGPT
Другие пользователи жалуются на то, что даже самые простые вопросы приводят к получению абсурдных ответов. Например, на вопрос «Что такое компьютер?» ChatGPT ответил длинным текстом, в котором утверждал, что компьютер — это «сеть искусства для страны, мышь науки, глобальный дом искусства».
VERY strange, rambling responses
byu/AnonymousRandomMan inChatGPT
Некоторые пользователи отмечали, что чат-бот начал смешивать испанские слова с английскими, использовать латынь или, по-видимому, изобретать слова, которые как будто были взяты из другого языка, но на самом деле не имели смысла.
Разработчики не предоставили объяснений, но сообщили, что работают над проблемой. Ответа, скорее всего, и не будет, так как известно, что при том, что фактически создателем искусственного интеллекта является человек, для самого человека ИИ остается черным ящиком.
Разработчики признаются, что не знают, почему ИИ что-то сказал так, а не иначе, и как он выполняет задачи и приходит к определенным выводам.
За примерами далеко ходить не надо. В конце прошлого года пользователи ChatGPT обнаружили, что чат-бот может лениться и даже вообще отказываться отвечать. OpenAI признала наличие проблемы, разработчики заявили, что не обновляли ИИ с 11 ноября, а жалобы появились позже. Это означает, что такое поведение чат-бота не является следствием каких-то изменений, внесенных разработчиками, а сформировалось само по себе. Впрочем, авторы проекта говорят, что все это не означает, что ChatGPT каким-то образом изменился сам по себе. На каком основании они это утверждают, OpenAI не сообщила. Разработчик заявил, что ищет возможности для того, чтобы исправить проблему, но пока, похоже, не нашел.
Глубокие нейронные сети и алгоритмы глубокого обучения создают тысячи (а иногда и миллионы) нелинейных отношений между входными и выходными данными. Сложность отношений затрудняет (или даже делает недоступным) даже для разработчика объяснение того, какие функции или взаимодействия привели к определенному результату.
Исследователи предупреждают, что большинство систем ИИ представляют собой классические модели черного ящика и потому невозможно понять, в каких случаях может произойти ошибка и когда она станет системной. Не понимая того, как ИИ принимает решения, человек не сможет вмешаться в работу системы и спорить с ее выводами.
«Детали», Ю.Л. Фото: Depositphotos.com
The post ИИ остается черным ящиком: чат-бот ChatGPT внезапно начал нести бред appeared first on НЭП.
источник »
|
