BTC $62 468 -1.9%ETH $1 742 -2.0%SOL $73 +0.8%TON $1,01 -5.0%BTC $62 468 -1.9%ETH $1 742 -2.0%SOL $73 +0.8%TON $1,01 -5.0%
ииBittalk · по материалам iXBT

NSF выдал Университету Индианы $1,18 млн на аудит открытых ИИ-моделей

NSF выдал Университету Индианы $1,18 млн на аудит открытых ИИ-моделей

Национальный научный фонд США профинансировал проект по поиску уязвимостей в открытых ИИ-моделях, которыми пользуются научные коллективы. Университет Индианы составит карту рисков популярных репозиториев и подготовит инструменты для оценки защищённости моделей. Причина в том, что те же открытые веса, что ускоряют исследования, открывают путь к утечкам данных и закладкам в коде.

Национальный научный фонд США (NSF) выделил Университету Индианы грант в $1,18 млн ≈ 3,54 млн BYN. Деньги пойдут на проект по защите научных исследований от угроз, которые создаёт использование открытых ИИ-моделей.

Научные группы всё чаще берут такие модели для анализа данных, поиска закономерностей и ускорения открытий — в медицине, астрономии и других областях. Открытые репозитории на GitHub и Hugging Face делают технологию доступной, но одновременно порождают новые векторы атак. Среди рисков Самтани перечисляет случайную утечку конфиденциальных данных пациентов, кражу интеллектуальной собственности, встроенные «чёрные ходы» (backdoors) и вредоносные инъекции в промптах, которые заставляют модель передавать информацию третьим лицам.

Руководитель проекта Сагар Самтани подчёркивает двойственность открытого кода: это и главная сила технологии, и её главная уязвимость, поскольку для дообучения под конкретную отрасль модели приходится загружать большими массивами чувствительных данных.

Три этапа работы

Сначала исследователи определят, какие открытые ИИ-модели наиболее востребованы в науке, и составят карту их уязвимостей. Затем появятся инструменты с элементами ИИ — они помогут учёным оценивать риски, выбирать более защищённые альтернативы и генерировать патчи для закрытия слабых мест. Проверка пройдёт совместно с платформой Jetstream2, национальным облачным сервисом NSF для науки и инженерии, который обслуживает сотни федеральных исследовательских проектов.

К работе подключены специалисты по кибербезопасности из нескольких подразделений университета и Объединённого центра киберопераций для высшего образования OmniSOC, расположенного там же. «Необходимо гарантировать, что ИИ-модели, используемые в исследованиях, не выполняют никаких нелегитимных операций, способных передавать интеллектуальную собственность третьим лицам», — заявил Самтани.

Пересчёт в белорусские рубли — по официальному курсу Национального банка на 18.11.2026: $1 = 2,9987 BYN.

Источник

iXBT · права на исходный материал принадлежат автору.

Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».

Bittalk в Telegram

Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.

Читать в Telegram →

По теме