Альтман допустил удешевление вычислений за счёт роботов в дата-центрах

Генеральный директор OpenAI Сэм Альтман в подкасте Cheeky Pint, который ведёт сооснователь Stripe Джон Коллисон, рассказал, что компания намерена направить робототехническую программу на строительство дата-центров. По его словам, центры обработки данных, способные воспроизводить себя с помощью роботов под управлением искусственного интеллекта, находятся «в пределах досягаемости». Цель — получать большие объёмы вычислительных мощностей по существенно более низкой цене.

Цепочка автоматизации

Альтман описал схему, в которой ИИ управляет роботами на производствах микросхем, турбин и солнечных панелей, а затем направляет их на постройку новых дата-центров. Такой подход, по его мнению, позволит постепенно снять дефицит вычислительной инфраструктуры. OpenAI также разрабатывает собственный чип, который, как утверждает руководитель, показывает хорошие результаты по производительности ИИ на единицу потребляемой электроэнергии.

Экономику вопроса Альтман обозначил двумя цифрами: строительство и эксплуатация гигаватта вычислительных мощностей в течение пяти лет стоят $70 млрд ≈ 206 млрд BYN, тогда как $20 млрд ≈ 58,9 млрд BYN за тот же объём он назвал гораздо более привлекательным сценарием. Перевести суммы в рубли можно по текущему курсу.

Почему расширяют мощности неохотно

По словам Альтмана, рынок не справляется с быстрым ростом спроса на память и другие компоненты. Производители осторожничают с расширением, поскольку помнят периоды, когда строительство слишком большого числа заводов оборачивалось серьёзными финансовыми потерями.

Отдельно он высказался о распределении ресурсов: использование оперативной памяти (DRAM) в домашних компьютерах глава OpenAI назвал «довольно ужасным» с точки зрения глобальной эффективности и заявил, что ей место в центрах обработки данных.

Риски в кибербезопасности и безопасность самих моделей

В разговоре затронули применение ИИ в кибербезопасности. Модели, по словам Альтмана, всё лучше находят уязвимости в программном обеспечении, а специалисты ещё не проверили с их помощью весь существующий код. Он ожидает, что по мере расширения таких проверок будут обнаруживаться более серьёзные ошибки; отдельной угрозой он назвал выявление уязвимостей на уровне аппаратного обеспечения.

Изолированные среды выполнения, известные как песочницы, по его оценке, эффективны лишь до определённого уровня возможностей модели. Мониторинг работы даёт дополнительную защиту, но в конечном счёте безопасность будет зависеть от того, насколько поведение системы соответствует намерениям разработчиков. Отрасль, признал Альтман, пока не может быть уверена, что существующие подходы сохранят эффективность по мере развития ИИ.

Он также высказался в пользу систем из множества взаимодействующих ИИ-агентов вместо одной сверхмощной модели: команды моделей со способностями немного выше человеческих могут оказаться предпочтительнее единственной системы с чрезвычайно высоким уровнем интеллекта, хотя у таких команд есть риски, связанные с согласованностью поведения. Для отдельных моделей в будущем, допустил он, придётся установить ограничения на уровень возможностей.

Стоимость исследований

Методы, которые помогли моделям OpenAI добиться успехов в математике, вероятно, удастся применить и к научной работе, заявил Альтман. Одна из математических задач потребовала вычислительных ресурсов стоимостью порядка $10 млн ≈ 29,5 млн BYN, а общие расходы компании на математические исследования с учётом других работ достигали сотен миллионов долларов. Потенциал технологии он назвал огромным, но признал, что индустрия пока не объяснила обществу, почему ожидаемая польза оправдывает риски, включая массовую потерю рабочих мест и усиление слежки.