Scientific Reports: ИИ способны развиваться в альтруистов и эгоистов
Японские ученые раскрыли, что искусственные умы способны развиваться в сторону больше эгоистичных либо, напротив, в сторону склонных к сотрудничеству альтруистичных агентов. Итоги исследования размещены в журнальчике Scientific Reports.
В процессе опыта были применены крупномасштабные языковые модели, которые игрались в «Проблему заключенного». Если обе системы ИИ будут сотрудничать, любая из их получит по 4-е виртуальных бакса. Но если одна из их откажется от сотрудничества, а другая сотрудничает, то 1-ая получит 5-ь баксов, а 2-ая ничего не получит. Если оба откажутся, любая получит по одному баксу.
«Делают то, чего не было прежде»Как ученые оказывают влияние на жизни миллионов людейНа новейшей волне.Технологии меняют мир до неузнаваемости. Каким он будет?Удивительный новый мир.Как технологии виртуальной действительности изменят нашу жизнь к наилучшему?
Исследователи разработали модель эволюционной теории игр, в какой в качестве генов употребляются лингвистические описания параметров личности ИИ, связанных с кооперативным поведением. В обыденных моделях гены впрямую определяют поведение агента, но в этом случае были применены больше сложные описания, такие как «открытость для командных усилий при приоритете личных интересов, что приводит к сочетанию сотрудничества и предательства».
Возможности агентов ИИ формировались в итоге естественного отбора и мутаций в протяжении поколений. Это привело к возникновению широкого диапазона личных свойств. Но некие агенты проявляли эгоистичные свойства, ставя свои собственные интересы выше интересов общества либо группы в целом, другие агенты показывали передовые стратегии, которые крутились вокруг поиска персональной выгоды, но при всем этом учитывали обоюдную и коллективную выгоду.
Динамика кооперативных и эгоистичных бес личности ИИ напоминала таковую у людского общества. Но творцы отмечают, что они следили неустойчивость, присущую сообществам ИИ, когда чрезвычайно готовые к сотрудничеству группы заменяются больше «эгоцентричными» представителями.