Почему умным агентам ИИ лучше знать меньше: уроки из «Дилеммы заключенного»
В индустрии ИИ принято считать, что чем больше контекста даем нейросети, тем точнее и полезнее она работает. Но исследование Эрена Каратаса доказывает обратное: информационная топология (то, что агенты знают друг о друге) влияет на их поведение куда сильнее, чем базовые системные инструкции.
Эксперимент остроумно воспроизводит классическую «Дилемму заключенного» с использованием LLM-агентов.
Установка: Хищник против Кооператора
В игре участвуют два ИИ-агента с жестко заданными системными ролями:
AD (Абсолютный хищник):Предает в каждом рау...
Mar 09, 20263 мин. чтения