Дослідник Davide Piffer у статті-огляді висунув припущення, що ймовірнішим поясненням прогресу математичних здібностей ШІ є майже безмежна символічна робоча пам’ять, яку забезпечує контекстне вікно, а не поглиблення здатності до міркувань. Piffer посилається на спостереження фізика Вігнера щодо фон Неймана та Ейнштейна, визначаючи сучасний ШІ як машинно підсилену версію фон Неймана — швидку й добре запам’ятовуючу, але ще не наділену глибиною мислення на кшталт Ейнштейна, здатного по-новому сформулювати саму проблему.
Математичні обмеження людської робочої пам’яті: незалежні кількісні висновки чотирьох психологічних досліджень
Piffer посилається на кілька психологічних досліджень, демонструючи, що пояснювальна сила робочої пам’яті для математичних результатів не залежить від IQ:
Alloway & Passolunghi (2011): робоча пам’ять робить незалежний внесок у результати з математики, який не залежить від факторів загального інтелекту
Alloway & Alloway (2010): шестирічне лонгітюдне дослідження показало, що результати тестів робочої пам’яті у п’ятирічному віці краще передбачають подальші академічні досягнення, ніж результати тесту на IQ
Blankenship (2015): висновки дослідження узгоджуються з наведеними вище результатами
Friso-van den Bos (2013): висновки дослідження узгоджуються з наведеними вище результатами
Згідно з наведеними дослідженнями, із двох дітей із приблизно однаковим IQ зазвичай кращі результати з математики демонструє дитина з більшою місткістю робочої пам’яті. Piffer використовує це як відправну точку для розуміння математичних результатів ШІ: математичні здібності людей від початку обмежені вузьким місцем пам’яті, а ШІ усунув це обмеження.
Контекстне вікно як посилена символічна робоча пам’ять
Piffer описує контекстне вікно ШІ як величезний зовнішній символічний блокнот, у якому зберігається весь текст, що його може обробляти мовна модель: формулювання задачі, визначення, проміжні обчислення та відкинуті способи розв’язання, до яких у будь-який момент можна повернутися.
Однак Piffer зазначає, що записані ШІ слова майже неможливо перезаписати: їх можна лише постійно додавати в кінець. Тому точнішим описом є «посилена символічна робоча пам’ять», а не робоча пам’ять людини в повному розумінні. Робоча пам’ять людини охоплює три функції: регулювання уваги, придушення перешкод і постійне оновлення, тоді як контекст мовної моделі є відносно пасивним.
Piffer зазначає, що ця перевага особливо помітна в математиці, оскільки математичні міркування можна записувати майже однозначними символами: припущення, визначення, відомі умови та виключені випадки можна зберігати точно, і їхнє значення не змінюється залежно від контексту. ШІ може на кожному кроці повторно відтворювати всі вихідні умови, уникаючи проблеми, коли під час людського виведення через забуту умову випадково ділять на нуль. Piffer також зазначає, що математичні відповіді можна перехресно перевіряти за допомогою програмних обчислень або формалізованих засобів доведення (програмного забезпечення, здатного автоматично перевіряти відповідність кожного кроку виведення правилам логіки), завдяки чому помилки у зовнішньому записі негайно виправляються й не накопичуються в послідовність похибок.
Умови неефективності підходу робочої пам’яті: межі пам’яті в невизначених причинно-наслідкових питаннях
Piffer чітко визначає межі застосування переваги робочої пам’яті. Наприклад, у питанні «чому хтось раптом перестав відповідати на повідомлення»: причина може полягати в тому, що людина сердиться, зайнята, у неї зламався телефон або вона уникає іншої теми, але ключову інформацію не було зафіксовано від самого початку, і навіть більше контекстне вікно не може створити факти, яких не спостерігали.
Piffer зазначає, що значення таких слів, як «справедливий», «успіх» і «шкідливий», може змінюватися залежно від контексту. Модель може зберегти весь діалог, але все одно неправильно зрозуміти, що насправді обговорюється. Складність політичного аналізу, історичної інтерпретації та ділових суджень полягає не в недостатній місткості пам’яті, а в пошуку правильного причинно-наслідкового пояснення за неповних доказів — це здатність, якої контекстне вікно не може забезпечити.
Перевірюване передбачення Piffer: перевага ШІ має змінюватися залежно від умов задачі
Piffer висунув передбачення, яке можна перевірити практично: перевага ШІ має бути найпомітнішою в задачах із великою кількістю умов, довгими обчисленнями та необхідністю розглядати кілька випадків; у задачах, що потребують лише одного концептуального стрибка, перевага має суттєво зменшуватися. Контрфактична перевірка має виглядати так: якщо зменшити доступне контекстне вікно або заборонити мовній моделі записувати проміжні кроки, то, за передбаченням Piffer, результати в довгих математичних задачах непропорційно сильно погіршаться.
Порівняння фон Неймана та Ейнштейна: спостереження Вігнера і визначення здібностей сучасного ШІ
Piffer використовує спостереження фізика Вігнера як підсумкову рамку. Вігнер був знайомий і з фон Нейманом (John von Neumann), і з Ейнштейном: інтелект фон Неймана був найшвидшим і найгострішим з усіх, які він бачив; фон Нейман міг миттєво засвоювати великі обсяги інформації та робити міждисциплінарні висновки. Розуміння Ейнштейна було глибшим і оригінальнішим — він був мислителем, здатним по-новому сформулювати саму проблему.
Спираючись на це порівняння, Piffer визначає сучасний ШІ як машинно підсилену версію фон Неймана: він швидкий і має добру пам’ять, але ще не демонструє глибини мислення на кшталт Ейнштейна, здатного виходити за межі наявних рамок.
Поширені запитання
Чому Piffer вважає, що контекстне вікно краще пояснює математичний прогрес ШІ, ніж розвиток здатності до міркувань?
Аргумент Piffer ґрунтується на психологічних дослідженнях: робоча пам’ять має незалежний від IQ прогностичний вплив на математичні результати, а математичні здібності людини від початку обмежені вузьким місцем пам’яті. Контекстне вікно ШІ фактично усуває це обмеження, надаючи майже необмежений простір для символічної роботи без необхідності змінювати саму здатність до міркувань.
Чому перевага контекстного вікна не працює в неоднозначних питаннях?
Згідно з аналізом Piffer, ключова складність невизначених питань (наприклад, політичних суджень та історичних інтерпретацій) полягає в причинно-наслідковому поясненні, а не в місткості пам’яті. Якщо ключову інформацію не було повністю зафіксовано від самого початку, навіть більше контекстне вікно не може створити фактів, яких не спостерігали; так само зміна значень слів залежно від контексту не вирішується розширенням місткості пам’яті.
Як Piffer конкретно розрізняє сучасний ШІ та глибші когнітивні здібності?
Piffer використовує розрізнення Вігнера між фон Нейманом (швидкість і здатність засвоювати великі обсяги міждисциплінарної інформації) та Ейнштейном (здатність по-новому сформулювати саму проблему й глибока оригінальність), вважаючи, що сучасний ШІ відповідає опису машинно підсиленої версії фон Неймана, але ще не демонструє глибокого оригінального мислення на кшталт Ейнштейна в задачах, що потребують виходу за межі наявних рамок.
