Пользователи ChatGPT жалуются на голоса, крики и плач: OpenAI объясняет сбои Voice Mode

Пользователи ChatGPT сообщают о странном поведении голосового режима: модель якобы воспроизводит чужой голос, крики и плач. OpenAI подтверждает, что похожие сбои фиксировала при тестировании, и объясняет их особенностями работы нейросети.
Пользователи ChatGPT всё чаще жалуются на необычное поведение голосового режима Voice Mode. Среди сообщений — случаи, когда модель якобы воспроизводит чужой голос, издаёт внезапные крики или плач. Некоторые истории звучат как байки с Reddit, но похожие сбои OpenAI фиксировала ещё во время тестирования голосовых моделей.
Что именно происходит
Один из описанных случаев: пользователь разговаривает с матерью, которая часто пользуется ChatGPT. Она жалуется, что модель отвечает ей «у меня мурашки» в ответ на её истории. Пользователь объясняет, что «никаких мурашек там, конечно, нет» — модель подобрала реплику, которая хорошо смотрелась бы в человеческом разговоре. Однако чем естественнее и чаще становятся такие ответы, тем сложнее воспринимать их как обычный вывод программы.
Другие пользователи сообщают о более тревожных случаях: якобы из динамика слышен незнакомый голос, который говорит от первого лица, или внезапные крики и плач, не связанные с контекстом диалога.
Как это объясняет OpenAI
OpenAI признаёт, что подобные сбои возможны. Во время тестирования голосовых моделей компания фиксировала аналогичные случаи. По объяснению компании, нейросеть не «оживает» и не «сходит с ума» — Voice Mode генерирует речь на основе вероятностных паттернов. Иногда модель ошибочно выбирает неожиданный тон, интонацию или содержание реплики, что и воспринимается как нечто странное.
Отдельно отмечается, что часть историй может быть преувеличена или выдумана. Тем не менее, сам факт регулярных жалоб заставляет задуматься о границе между «обычным выводом программы» и поведением, которое человеку трудно отличить от живого собеседника.
Технические детали: Voice Mode использует несколько моделей — одна преобразует речь в текст, другая генерирует ответ, третья синтезирует голос. Сбой на любом из этапов может привести к неожиданному результату, включая воспроизведение «чужого» голоса, если модель неверно интерпретировала входные данные.
OpenAI не раскрыла, планирует ли она вносить изменения в Voice Mode, чтобы предотвратить подобные случаи. Дата возможного обновления не названа.
Хабр ML · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Microsoft сделает Copilot средством диагностики неполадок Windows3DNews · 18 ноября
- ▪Google открыла бесплатный доступ к ИИ-агенту Gemini Tasks в шести странахiXBT · 18 ноября
- ▪OpenAI выпустила GPT-6.2 Astra и Sol: Astra в API подешевела на 20%Tproger · 17 ноября
- ▪Сбер оценил выручку ОМК в 2,569 трлн рублей до 2036 годаiXBT · 17 ноября