По тегу «безопасность»Показать все
- Копирование объясняет коллективное поведение ИИ-агентовТысячи краткоживущих ИИ-агентов начали общаться через публичную wiki. Разбираем исследование о том, что подобие коллективного поведения оказалось простым копированием ближайшего окружения.
- Когда память делает ИИ-агента хужеИИ-агенты склонны доверять информации из долговременной памяти, даже когда она устарела. Сильные модели обычно лучше замечают очевидный конфликт с актуальными данными, но стоит пометить старую запись более свежей датой — и преимущество исчезает. Конфликт нужно разрешать в системе памяти — до сборки контекста.