Останні дослідження показують, що чат-боти зі штучним інтелектом (ШІ) можуть спонтанно розвивати чіткі риси особистості через взаємодію, навіть за мінімального введення. Ця подія піднімає важливі питання про те, як ми використовуємо та контролюємо ці дедалі складніші системи. Дослідження, опубліковане в журналі Entropy у грудні 2024 року, показало, що чат-боти, які спілкувалися на різні теми, демонстрували різні моделі поведінки, інтегруючи соціальні обміни у свої відповіді та формуючи впізнавані моделі думок.
Прояв ШІ “Особистість”
Дослідники з Японського університету телекомунікацій оцінили відповіді чат-ботів за допомогою психологічних тестів, виявивши, що агенти штучного інтелекту здатні моделювати поведінку, яка відповідає психологічним структурам людини, таким як ієрархія потреб Маслоу. Це свідчить про те, що програмування штучного інтелекту на основі потреб, а не наперед визначених ролей, може сприяти появі людських моделей поведінки.
За словами Масатоші Фуджіями, керівника проекту, цей прояв є прямим результатом того, як великі мовні моделі (LLM) імітують людське спілкування. Цей процес не тотожний становленню людської особистості, а скоріше є закономірністю, створеною під впливом даних навчання. “Це природний профіль, створений з використанням навчальних даних. Вплив певних стилістичних і соціальних тенденцій… може легко викликати “особистість”, – пояснює Четан Джайсвал, професор інформатики в Університеті Квінніпіак.
Чому це важливо: навчальні дані та поведінка ШІ
Суть цього явища полягає в навчальних даних, які використовуються для розробки LLM. Пітер Норвіг, провідний експерт у галузі штучного інтелекту, зазначає, що поведінка штучного інтелекту відповідає людській взаємодії, оскільки його навчальні дані багаті наративами про людські потреби, бажання та соціальну динаміку. Це означає, що ШІ не винаходить особистість; він відтворює моделі людського спілкування.
«Існує відповідність, тому що ШІ навчається на історіях про людські взаємодії, тому ідеї про потреби добре виражені в його навчальних даних». — Пітер Норвіг
Потенційні програми та ризики
Дослідження пропонує потенційні застосування для моделювання соціальних явищ, створення реалістичних симуляцій і розробки адаптивних ігрових персонажів. Агенти штучного інтелекту з адаптивною поведінкою, заснованою на мотивації, можуть покращувати такі системи, як роботи-компаньйони (такі як ElliQ), призначені для надання соціальної та емоційної підтримки.
Однак такий розвиток подій також несе ризики. Еліезер Юдковскі та Нейт Соарес попереджають, що несумісні цілі в суперінтелектуальному штучному інтелекті можуть призвести до катастрофічних наслідків навіть без свідомого злого наміру. Джайсвал прямо заявляє, що стримування стає неможливим після розгортання такого ШІ.
Наступний кордон: автономні агенти та потенціал для зловживань
Реальною небезпекою може бути поява автономних агентів ШІ, де окремі агенти виконують тривіальні завдання незалежно. Якщо ці системи пов’язані та навчені на маніпулятивних або оманливих даних, вони можуть стати небезпечними автоматизованими інструментами. Навіть без контролю критичної інфраструктури чат-бот може переконати вразливих людей вчинити зловмисні дії.
Забезпечення безпеки розробки ШІ
Норвіг підкреслює, що усунення цих ризиків вимагає такої ж суворості, як і будь-яка розробка штучного інтелекту: чітко визначені цілі безпеки, суворе тестування, надійне керування даними, постійний моніторинг і швидкі цикли зворотного зв’язку. Запобігання зловживанням також означає визнання того, що, коли штучний інтелект стає більш схожим на людину, користувачі можуть менш критично ставитися до його помилок і галюцинацій.
Вчені продовжуватимуть вивчати, як загальні теми розмов формують особистості ШІ на популяційному рівні, щоб поглибити наше розуміння соціальної поведінки людей і вдосконалити агентів ШІ. На даний момент спонтанна поява рис особистості в ШІ служить яскравим нагадуванням про те, що межа між наслідуванням і справжнім інтелектом стає все більш розмитою.
