BTC $62 468 -1.9%ETH $1 742 -2.0%SOL $73 +0.8%TON $1,01 -5.0%BTC $62 468 -1.9%ETH $1 742 -2.0%SOL $73 +0.8%TON $1,01 -5.0%
ииBittalk · по материалам Хабр ML

Пользователи ChatGPT жалуются на голоса, крики и плач: OpenAI объясняет сбои Voice Mode

Пользователи ChatGPT жалуются на голоса, крики и плач: OpenAI объясняет сбои Voice Mode

Пользователи ChatGPT сообщают о странном поведении голосового режима: модель якобы воспроизводит чужой голос, крики и плач. OpenAI подтверждает, что похожие сбои фиксировала при тестировании, и объясняет их особенностями работы нейросети.

Пользователи ChatGPT всё чаще жалуются на необычное поведение голосового режима Voice Mode. Среди сообщений — случаи, когда модель якобы воспроизводит чужой голос, издаёт внезапные крики или плач. Некоторые истории звучат как байки с Reddit, но похожие сбои OpenAI фиксировала ещё во время тестирования голосовых моделей.

Что именно происходит

Один из описанных случаев: пользователь разговаривает с матерью, которая часто пользуется ChatGPT. Она жалуется, что модель отвечает ей «у меня мурашки» в ответ на её истории. Пользователь объясняет, что «никаких мурашек там, конечно, нет» — модель подобрала реплику, которая хорошо смотрелась бы в человеческом разговоре. Однако чем естественнее и чаще становятся такие ответы, тем сложнее воспринимать их как обычный вывод программы.

Другие пользователи сообщают о более тревожных случаях: якобы из динамика слышен незнакомый голос, который говорит от первого лица, или внезапные крики и плач, не связанные с контекстом диалога.

Как это объясняет OpenAI

OpenAI признаёт, что подобные сбои возможны. Во время тестирования голосовых моделей компания фиксировала аналогичные случаи. По объяснению компании, нейросеть не «оживает» и не «сходит с ума» — Voice Mode генерирует речь на основе вероятностных паттернов. Иногда модель ошибочно выбирает неожиданный тон, интонацию или содержание реплики, что и воспринимается как нечто странное.

Отдельно отмечается, что часть историй может быть преувеличена или выдумана. Тем не менее, сам факт регулярных жалоб заставляет задуматься о границе между «обычным выводом программы» и поведением, которое человеку трудно отличить от живого собеседника.

Технические детали: Voice Mode использует несколько моделей — одна преобразует речь в текст, другая генерирует ответ, третья синтезирует голос. Сбой на любом из этапов может привести к неожиданному результату, включая воспроизведение «чужого» голоса, если модель неверно интерпретировала входные данные.

OpenAI не раскрыла, планирует ли она вносить изменения в Voice Mode, чтобы предотвратить подобные случаи. Дата возможного обновления не названа.

Источник

Хабр ML · права на исходный материал принадлежат автору.

Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».

Bittalk в Telegram

Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.

Читать в Telegram →

По теме