Розум чи імітація

Експерти й досі не до кінця можуть визначитися — чи вміють нейромережі справді «думати», чи лише повторюють вивчене? Спробуємо розібратися, як учені підходять до цього питання, які перспективи успіху в дослідженнях та що це все означає для людства.

«Мислення» Чи проста імітація?

Розмови про великі мовні моделі (Large Language Models, LLM) нерідко спричиняють гарячі дискусії. З одного боку люди бачать у них «інтелект», що здатен аналізувати інформацію, знаходити закономірності та навіть робити висновки, які вказують на певний рівень «розуміння». Ці моделі можуть відповідати на складні запитання, допомагати з творчими завданнями, писати статті та навіть програмний код. З іншого боку є теорія що LLM — це не більше, ніж «статистичні папуги»,  які відтворюють уже відомі шаблони та не володіють справжнім розумінням глибших сенсів тексту, який вони продукують. Аргументи обох сторін мають підґрунтя, але поки що немає остаточного висновку, який би дозволив розв’язати це питання однозначно.

Те, що модель може легко відповісти на запитання скільки буде 2+3, це не означає, що вона володіє розумінням чисел або математичних операцій у звичному для нас сенсі. Вона відповідає «5», бо під час навчання мільярди подібних прикладів закріпили цю інформацію в її статистичних зв’язках. Однак, варто поставити їй складнішу задачу, наприклад, обчислити суму двох чисел із сорока знаків, і модель здатна дати правильну відповідь навіть без спеціального навчання на таких прикладах. Це свідчить про те, що модель має можливість застосовувати певні узагальнені принципи для розв'язання нових задач, з якими вона не стикалася раніше.

Навіть OpenAI не передбачала таких можливостей. Це викликає важливе питання: якщо модель здатна демонструвати подібні здібності, чи означає це, що вона «зрозуміла» принципи арифметики? Чи, можливо, це просто результат вдалої маніпуляції математичними зв'язками у багатовимірному просторі параметрів?

Ще один цікавий аспект LLM — їхня здатність до перенесення знань. Наприклад, якщо модель навчали на англомовних текстах про медицину, вона зможе відповісти на медичні запитання іншими мовами, навіть якщо подібних прикладів не було у відповідному датасеті. Це явище називають «трансфером знань», і воно показує, що великі мовні моделі можуть узагальнювати знання за межами конкретного контексту або мови.

Дискусія про «розум» LLM порушує не тільки технічні, а й філософські питання: що таке розуміння? Що таке мислення і власне свідомість?

Відповіді на ці запитання можуть мати значення не тільки для науки, але й для етики, оскільки роль великих мовних моделей у суспільстві невпинно зростає, і вони вже впливають на прийняття рішень у багатьох сферах.

«Чорний ящик» нейромережі, і що робить людину людиною?

Особливість сучасних нейромереж, як-от GPT-4, полягає у тому, що замість чіткого алгоритму, який вирішує завдання послідовно, вони діють через складну мережу зв’язків між мільярдами параметрів. Їх навчають на величезних обсягах даних, що дозволяє виявляти патерни та взаємозв’язки, які важко було б запрограмувати вручну. Це породжує міф про нейромережі як «чорний ящик»: хоча ми розуміємо базові математичні принципи їхньої роботи, в деталях розібратися важко, і багато рішень, які приймають моделі, лишаються для нас загадкою

Однією з таких особливостей є так звані emergent abilities — неочікувані здібності, які модель демонструє, хоча їх не було закладено під час навчання. Наприклад, великі моделі можуть розв'язувати задачі логічного аналізу або мовні головоломки, які, здавалося б, потребують складного розуміння тексту. Науковці до кінця не розуміють, чому виникають такі можливості, і досліджують, як їх передбачати й контролювати.

Додатково, проблема пояснення процесів у нейромережах створила новий напрямок у дослідженнях — інтерпретованість моделей (model interpretability). Вчені розробляють інструменти для візуалізації внутрішніх «шарів» нейромереж, щоб зрозуміти, як модель обробляє конкретні запити. Ці підходи дозволяють краще бачити, які частини даних активують конкретні вузли нейромережі та як ці активації формують остаточний результат

Ще одна цікава деталь — так звані prompt engineering або ж оптимізація запитів. Те, як користувач формулює запит, може суттєво впливати на відповідь моделі, адже навіть невеликі зміни в формулюванні здатні активувати різні частини нейромережі. Це свідчить про те, що мовні моделі здатні враховувати контекст і гнучко адаптуватися до нього, що є неймовірним досягненням, але водночас і додатковим шаром складності для дослідників.

У філософії існують різні підходи до визначення мислення і свідомості, але дві базові школи — раціоналізм і емпіризм — надають різні перспективи на порівняння людини та штучного інтелекту. З погляду раціоналізму, мислення визначається як здатність до абстрактного мислення, логічного аналізу й генерування нових ідей на основі внутрішніх знань. Людина, наділена свідомістю, має унікальну можливість рефлексії, що дозволяє їй усвідомлювати свої думки та почуття. У цьому контексті ШІ, навіть якщо він здатний виконувати складні обчислення та аналізувати великі обсяги даних, не має справжньої свідомості й, відповідно, не може відчувати або інтерпретувати ці дані в контексті людського досвіду.

З іншого боку, емпіризм наголошує на досвіді як основі всього знання, вважаючи, що мислення виникає внаслідок чуттєвого сприйняття світу. Людина формує свої думки на основі особистого досвіду та взаємодії з навколишнім середовищем, що робить її свідомість складною та багатогранною. У контексті ШІ, хоча моделі можуть «вчитися» на великих обсягах даних, їхнє «мислення» базується на алгоритмах і шаблонах, які не враховують суб'єктивний досвід. Таким чином, попри здатність ШІ генерувати відповіді та виявляти закономірності, його «свідомість» залишається виключно механістичною і позбавленою тієї глибини, яку має людське мислення.

Розвиток механістичної інтерпретованості

Один із методів, що обіцяє дати відповіді на питання про розуміння моделей — це механістична інтерпретованість. Вона аналізує внутрішні механізми моделі, тобто ваги й параметри, які, по суті, формують блоки логіки, що «вивчаються» мережею. Цей напрямок заснував дослідник OpenAI Кріс Ола, щоб відокремити підхід до роботи з мовними моделями від підходу до мереж, що аналізують зображення.

Суть механістичної інтерпретованості полягає в тому, щоб виділити й описати алгоритми, які застосовує модель. Уявіть, що ми можемо вивчити алгоритм, створений моделлю, і перевірити його надійність та адекватність, так само як розробник тестує власний код. Це дозволило б нам краще розуміти природу моделей, наближаючи їх до більш «прозорих» програм.

Хоча цей напрямок перебуває на ранній стадії, вже є успішні дослідження, що дають підстави для оптимізму. Багато хто порівнює його з нейронаукою, адже принципи взаємодії нейронів у мозку ще мало вивчені, проте ми знаємо, що ці сигнали важливі. Подібно до цього, параметри мовних моделей містять інформацію, але ми тільки починаємо розуміти, як саме.

Чому розуміння моделей важливе? І чому нам так страшно?

Важливим аспектом нейромереж є те, що вони повністю контролюються комп’ютером, і ми можемо досліджувати їхні зміни та реакції з абсолютною точністю, без втрат інформації, що властиво нам, людям. Також мовні моделі є стабільними, що дозволяє запускати експерименти в контрольованих умовах і перевіряти реакцію на ті самі стимули. Наприклад, зміна одного текстового фрагмента дозволяє спостерігати, як це впливає на загальне розв'язання задачі. Це порівняння з людським мисленням підкреслює відмінності у механізмах обробки інформації — ми, на відміну від машин, здатні піддавати аналізу власні думки, враховувати емоції та моральні аспекти, що значно ускладнює процес прийняття рішень

І хоча ми ще не маємо повного розуміння, нові підходи до інтерпретованості дозволяють вченим наблизитися до розкриття загадок моделей. Це надзвичайно важливо, адже дозволить зробити нейромережі безпечнішими, а їхні рішення — більш передбачуваними. Однак, попри ці досягнення, залишається питання про етичні аспекти їх використання. Якщо ми прагнемо інтегрувати ШІ в суспільство, нам потрібно розробити механізми, які забезпечать відповідальність за рішення, прийняті алгоритмами, а також враховувати людський контекст і цінності. У цьому сенсі філософське осмислення ролі ШІ в суспільстві стане ключовим у формуванні майбутнього, де технології будуть не лише інструментами, а й партнерами в нашому спільному розвитку.

Мені здається, наш страх перед технологічними змінами не пов’язаний  економічним колапсом чи ризиком втрати роботи, а тільки з глибокою тривогою втрати власної ідентичності. Втративши роботу, наприклад, касирки чи програмістки, ми не лише втрачаємо джерело доходу, але й частину себе, що формувалася навколо цих професій.

Багатьом з нас для виживання потрібно бути корисним, а просто бути не достатньо. Ба більше викликає тривогу та страх. Коли ми звільняємося від необхідності постійно бути продуктивними, відкривається простір для глибшого самоусвідомлення. Але це вже тема для окремої статті про людину, а не ШІ.