Представлено на конференції високого рівня Бостонського глобального форуму «Саміт з регулювання AI Assistant: сприяння економічному альянсу технічного просвітництва» в клубі викладачів Гарвардського університету. Документ, представлений тут, є розширенням цієї розмови.

Ми на багатьох перехрестях. Останніми місяцями в центрі уваги є штучний інтелект, що призводить до цілого спектру реакцій від жаху до радості. Без сумніву, ви вже відчули задоволення від гри з ChatGPT. Багато хто приєднався до поспіху усиновлення.

Інші вважають, що нинішнє вираження штучного інтелекту – це ще одна гонка до дна, де ми повинні бути обережними, тому що ми повинні. Усі інші це роблять, тому ми повинні це робити також. Сукупна погана поведінка, яка нікому не потрібна, але існує, тому що ніхто не знає, як побудувати довіру, є тінню, яка приходить із технологічним прогресом. Технологія не ворог. Неспроможність співпрацювати та об’єднуватися в довірі призводить до необачного усиновлення, яке може завдати шкоди.

У цьому короткому огляді я сподіваюся надати вам основу для майбутнього штучного інтелекту, який зміцнить довіру та зменшить ризик.

Цю структуру вперше оприлюднили засновники науки та наукового методу, починаючи з епохи Просвітництва. Наступний науковий метод створив основу для створення надійних знань — процесу співпраці, що залежить від колективного людського інтелекту та довіри до нової елегантності, яку пропонує природа.

Ми рекомендуємо використовувати силу колективного людського розуму та інтелекту, вбудованого у фізику живих систем, щоб вести нас вперед.¹

Протягом майже 70 років наукові пошуки штучного інтелекту зосереджувалися на створенні ручних моделей природного інтелекту та когнітивних навичок людей з використанням інструментів символічного представлення та міркування. Вони вміли пояснити, як вони вирішують проблему. Довіра була створена шляхом спостереження за їхніми міркуваннями.

Протягом останніх 20 років статистичні дослідження на основі величезної кількості даних, які пропонуються в Інтернеті, дали вражаючі результати — від безпілотних автомобілів до великих мовних моделей, які об’єднують нас сьогодні. Зокрема, трансформаторні архітектури глибокого навчання розкрили потужний потенціал генеративного штучного інтелекту, який створив вражаючі результати, які ми бачимо сьогодні.

Занепокоєння, яке привело нас сюди сьогодні, стосується трьох фундаментальних проблем. Вперше в історії інформаційних технологій ми не запроваджуємо концепцію походження даних. Таким чином, ці величезні генеративні сили можуть бути переконливими розповсюджувачами дезінформації та підривати довіру до знань. Друге занепокоєння полягає в тому, що системи є чорними ящиками. По-третє, їм потрібне відчуття контексту.

Ці три слабкі сторони перетинаються з трьома стовпами наукового методу цитування, відтворюваності та контекстуалізації результатів. що ми робимо

Джудея Перл каже: «Ви розумніші за свої дані». Ми погоджуємося. Здатність людини до контрафактного мислення є набагато потужнішою, ніж будь-що, про що ми можемо дізнатися з кореляційних моделей у наших минулих даних.

Великі мовні моделі та архітектури глибокого навчання зазвичай розробляють моделі інтелектуальної поведінки на основі розпізнавання образів і моделей кореляції з даних. Генеративний вихід від LLM залучає людей у ​​цикл для фільтрації та навчання результатів. Ризик залишається. Процес фільтрації може пропустити створення вмісту, що містить дезінформацію.

Малюнок 1 (Зображення автора)
П’ять років тому в інтерв’ю MIT Technology Review один із батьків глибокого навчання Йошуа Бенгіо заявив:

«Я вважаю, що нам потрібно враховувати важкі виклики ШІ, а не задовольнятися короткостроковими поступовими досягненнями. Я не кажу, що хочу забути глибоке навчання. Навпаки, я хочу розвивати його. Але ми повинні розширити його, щоб робити такі речі, як міркування, вивчення причинно-наслідкових зв’язків і дослідження світу для навчання та отримання інформації».²

Малоймовірно, що сучасні моделі, засновані на кореляції закономірностей в історичних даних, охоплюють всю складність здібностей людського мозку. Сила уяви людського мозку та його здатність генерувати моделі причин на основі досвіду мають бути невід’ємною частиною майбутніх моделей ШІ. Ми пропонуємо підхід, який включає людський колективний інтелект і модель людського мозку.

Ларрі Пейдж, Сергій Брін і Террі Віноград виявили, що індексування цитат може призвести до масштабованого способу впорядкування інформації в Інтернеті.³ Алгоритм PageRank навів порядок у Інтернеті. Математика індексування цитувань упорядковує розуміння обміну інформацією під час взаємодії людей.

Рисунок 2: Зображення автора
Наступне покоління штучного інтелекту, яке об’єднує людські колективні міркування, розроблене за останні вісім років, використовує підхід індексування цитат як процес відкриття знань. Це дозволяє відкривати знання в масштабі, підтримуючи цитування, відтворюваність і контекстуалізацію. Ми пропонуємо це як частину майбутньої структури.

Колективне міркування має на меті дізнатися сукупні уподобання та переконання спільноти чи групи щодо прогнозованого результату. Чи принесе запуск продукту бажані результати? Якщо ми змінимо нашу політику роботи вдома, ми збільшимо чи зменшимо продуктивність? Яка політика використання ChatGPT і LLM буде найкращою для нашої організації? Ці запитання вимагають вивчення «колективного розуму» групи щодо прогнозованого результату. Процес колективного міркування використовує технологію штучного інтелекту для вивчення моделі колективного розуму. Процес є одинарним сліпим, зменшуючи зміщення. Систему перевіряли протягом чотирьох років на групах із 20–30 експертів/інвесторів, які прогнозували успіх стартапу, і її точність виявилася на >80%.⁴ Колективні переконання та прогнози для кожної інвестиції були зіставлені в моделі колективних знань — мережі байєсівських переконань⁵. Ці причинно-наслідкові моделі є генеративними виконуваними представленнями колективних міркувань групи.

Ми можемо вбудовувати критичні елементи процесу відкриття наукових знань у те, як ми спільно створюємо або співпрацюємо для вирішення складних проблем. Замість того, щоб ШІ підривав довіру до знань, ми пропонуємо використовувати ШІ для вивчення моделей колективного знання, причинно-наслідкових моделей, які зберігають походження, пояснюваність і контекст. Це важливий компонент нового просвітництва — залучення наукового методу до співпраці.

Колективне міркування дозволяє дізнатися про наміри групи. Симуляція на основі агентів корисна для прогнозування впливу запропонованого рішення. Синтетичні моделі популяцій на основі загальнодоступних даних дозволяють масштабувати та прогнозувати вплив спільно створених рішень, і ми пропонуємо це як частину структури. Одна з компаній-партнерів у цій ініціативі розробила значні можливості для моделювання впливу в масштабі, застосовуючи його до соціальних наслідків поширення хвороби.⁶

Як щодо основи штучного інтелекту в майбутньому? Чого ми навчилися за 68 років з літа 1956 року, коли народився ШІ? Перші кілька десятиліть розробили компоненти, які формують поточний ландшафт ШІ. Математика кооперативних явищ і фізика магнетизму відіграють захоплюючу роль, об’єднуючи все це разом. Хопфілд у 1982 році продемонстрував, що нові колективні обчислювальні можливості штучних нейронних мереж безпосередньо відображаються на математичній фізиці спінових окулярів.⁷ Та сама математика кооперативних явищ описує появу порядку з хаосу, як показано на фотографії «мурчання шпаків». на початку цієї статті.

Нещодавно Лін, Рольнік і Тегмарк з Массачусетського технологічного інституту показали, що причина, чому глибоке та дешеве навчання працює так добре, пов’язана із законами фізики. Байєсівське навчання переформульоване як фундаментальний метод, який використовується в квантовій і класичній фізиці — Гамільтоніан.⁸ У центрі уваги майбутніх розробок ШІ має бути чітке зосередження на коренях ШІ в природних законах.

Центральне місце в усьому цьому займає вивчення порядку з безладу. Нова хвиля досліджень мозку переводить навчання на межі порядку/безладу до теорії створення систем живого інтелекту — Принципу вільної енергії.⁹.

FEP — це структура, заснована на байєсівському навчанні. Мозок розглядається як байєсівська ймовірнісна машина. Якщо сенсорні дані не відповідають очікуванням, активний висновок прагне мінімізувати невизначеність у майбутньому. Різниця між тим, що ми очікуємо, і тим, що ми відчуваємо, називається несподіванкою і представляється як вільна енергія (енергія, доступна для дії). Пошук шляху з мінімальною вільною енергією еквівалентний пошуку шляху, який зменшує подив (невизначеність).

ШІ на основі FEP адаптується локально та масштабується на основі варіаційних принципів мінімізації вільної енергії, які використовуються у фізичних і біологічних науках. Bioform Labs створює біотичний штучний інтелект, який адаптується та навчається.¹⁰ На відміну від штучного інтелекту другого покоління, який потребує масивних наборів даних для навчання та складних функцій вартості, штучний інтелект, заснований на фізиці живих систем, є адаптивним і живе в екосистемі. Він може бути розроблений для поваги до станів, які призводять до потреб живих систем.

Технологія для початку роботи з цією новою структурою застосовна вже сьогодні. Нам не потрібно зупиняти розвиток ШІ. Колективні міркування застосовуються до запитань, які ми повинні поставити собі про вплив ШІ в широкому спектрі конкретних контекстів. Як ШІ вплине на інвестиції в технології? Як це змінить нашу практику найму? Який вплив це матиме на нашу спільноту?

Малюнок 3 (Зображення автора)
Крім того, можна залучати ChatGPT і LLM до розробки ідей, зберігаючи межі конфіденційності. Ідеї, отримані від LLM, можуть бути кураторами та використані в конкретних приватних контекстах. Підібрані та контекстуалізовані внески керуються в запатентованому приватному середовищі LLM.¹¹

Колективне міркування дізнається про наміри та можливі рішення. Прогноз впливу моделювання на основі агентів. Нам більше не потрібно вважати організації жорсткими. Нові типи організаційного управління, засновані на активному висновку, підтримують адаптивне навчання шляху виживання. Ми віримо, що ця структура є баченням майбутнього, яке стане основою для

Малюнок 4 (зображення автора)
новий Enlightenment на основі штучного інтелекту. Оскільки епоха Просвітництва звільнила науку від тиранії релігійних авторитетів, нова ініціатива, Просвітництво на основі штучного інтелекту, відкриває шлях до співпраці та спільного створення рішень — щоб звільнити нас від непередбачуваних наслідків поточної хвилі божевілля ШІ.

Підсумовуючи, великі мовні моделі надають дуже корисні можливості, які розгортаються з вражаючою швидкістю. Читайте попереджувальні етикетки! ChatGPT застерігає не довіряти результатам беззастережно, а використовувати критичне мислення. Не розкривайте особисті дані. Щодо приватних даних, на рисунках 3 і 4 показано спосіб експерименту, дозволяючи ChatGPT або іншим «агентам» надавати вхідні дані для спеціальної співпраці з експертами-людьми, а результати зберігаються в приватному контексті LLM. Цей підхід дозволяє досліджувати генеративну силу LLM, зберігаючи контроль над приватною інтелектуальною власністю.

(1) Запропонована основа, представлена ​​в цьому документі, є результатом спільної роботи, розпочатої на зустрічі 6 березня в медіа-лабораторії Массачусетського технологічного інституту, організованій Джоном Кліпінгером з BioForms, Кімом Полезом з Crowdsmart та кількома іншими учасниками. Туан Нгуєн, генеральний директор Бостонського глобального форуму, був присутній, і після цієї зустрічі ініціатива була узгоджена з Бостонським глобальним форумом у створенні основи для управління ШІ https://bostonglobalforum.org/

(2)’Найт, Вілл, (17 листопада 2018 р.) «Один із батьків ШІ стурбований його майбутнім» MIT Technology Review

(3) Пейдж, Л., Брін, С., Мотвані, Р. і Віноград, Т. (1998) Рейтинг цитування PageRank: Наведення порядку в Інтернеті. Технічний звіт SIDL-WP-1999–0120, Проект технологій Стенфордської цифрової бібліотеки.

(4) Для отримання додаткової інформації див. Спільне створення під керуванням ШІ.

(5) Патент US11366972, переданий CrowdSmart.ai

(6) Epistemix.com

(7) Хопфілд Дж. Дж. 1982. Нейронні мережі та фізичні системи з появою колективних обчислювальних можливостей. Proc. Нац. акад. Sci. США 79, 2554–2558

(8) Лін Х.В., Тегмарк М. і Рольнік Д. Чому глибоке та дешеве навчання працює так добре?. J Stat Phys 168, 1223–1247 (2017). https://doi.org/10.1007/s10955-017-1836-5

(9) Фрістон, К. Принцип вільної енергії: єдина теорія мозку?. Nat Rev Neurosci 11, 127–138 (2010). https://doi.org/10.1038/nrn2787

(10) https://bioformlabs.org/

(11) Патент — Управління та вимірювання семантичного покриття в процесах виявлення знань. 2022/072895