Тренди AI-агентів: управління знаннями та harness engineering

Поділюся з вами актуальними гарячими трендами у світі автономних AI-агентів: довгострокове управління знаннями та налаштування повнофункціональних безпечних агентських середовищ. Це наступний виток еволюції для підвищення автономності AI-агентів і делегування їм повноцінних завдань навіть у складних проєктах.

У лютому інженери OpenAI опублікували статтю про свій внутрішній експеримент зі створення продукту на 100% за допомогою Codex. У процесі вони зіткнулися з низкою складнощів і пройшли непростий шлях побудови ефективного агентського середовища. Кілька ключових моментів:

• середовище має мати повноцінні інструменти observability та контролю якості;
• знання про проєкт повинні бути добре структуровані та постійно розвиватися;
• архітектурні рішення мають бути зафіксованими та детерміновано контрольованими.

У своєму інтерв’ю на тему використання AI-агентів Andrej Karpathy також зазначає, що ефективне управління знаннями та налаштування повноцінного агентського середовища займають найбільше часу при роботі з AI-агентами. Через кілька тижнів він опублікував вірусний пост у X про використання Obsidian для управління знаннями. На тлі такого великого інтересу до цієї теми Андрій детально описав ідею на GitHub, щоб кожен міг реалізувати її локально зі своїм AI-агентом.

А вже минулого тижня Anthropic запустила Managed Agents і опублікувала статтю про переосмислення архітектури глибокого агентського циклу. Вони чітко розділили агентський цикл, агентське середовище, інструменти та контекст сесії. Таке розділення дозволило спростити налаштування середовища й зробити його більш безпечним. Ну і, звісно, Anthropic отримала новий спосіб монетизації агентної інфраструктури. Управління знаннями вони ще не до кінця інтегрували, але, думаю, це вирішиться вже найближчим часом.

Для балансу хочу завершити пост коротким інтерв’ю з Michael Bolin про harness engineering і майбутнє AI-агентів у розробці.