Плагин с LLM-агентом снимает демо-ролики без участия человека: камера угадывает клик за 0,55 секунды

Разработчик представил плагин, в котором LLM-агент сам управляет курсором в Windows-приложении и записывает действия в журнал. Это позволяет пересобирать демо-ролики с нужным поведением камеры, которая подъезжает к кнопке за 0,55 секунды до клика. Инструмент написан с нуля, так как готовых решений найдено не было.
Разработчик опубликовал плагин, в котором LLM-агент самостоятельно управляет курсором в Windows-приложении, а каждое действие записывает в журнал с точным временем. На основе этого журнала, а не анализа видео, собирается демо-ролик: камера подъезжает к кнопке за 0,55 секунды до клика.
Обычный рекордер, который висит на хуке мыши, узнаёт о клике только в момент его совершения. Это вынуждает либо догонять курсор камерой, либо исправлять ролик вторым проходом. В данном случае весь сценарий известен до начала записи, поэтому ролик можно пересобрать с другими настройками, не запуская приложение повторно.
Задача возникла у ученицы курса по вайб-кодингу: ей нужно регулярно снимать скринкасты продукта и хотелось автоматизировать этот процесс. Готового инструмента найдено не было, поэтому плагин написали с нуля.
Работу проверили на задаче «открой калькулятор, посчитай 100 × 100, запиши демо». Агент нашёл окно, вывел его на нужный монитор, запустил запись, ввёл 1, 0, 0, ×, 1, 0, 0, = и остановился. В итоговом ролике длительностью 27,7 секунды есть чёрные поля, тень и плавный след курсора. Камера наезжает на цифровую клавиатуру ещё до того, как курсор до неё дойдёт. Агент вернул строку «37.3s recorded → 27.7s output (17 segments)».
Хабр ИИ · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Датамайнеры нашли в ChatGPT упоминания подписки Pro Max за $500 в месяцai_newz TG · 25 сентября
- ▪Сооснователи Anthropic получат 50,1% голосов после IPO3DNews · 25 сентября
- ▪Google запустит спутник с TPU-чипами 1 октябряiXBT · 25 сентября
- ▪Оксфордские исследователи заставили ИИ-агентов сговариваться в блэкджекеiXBT · 25 сентября