MY MEMORY
Твая памяць павінна належаць табе.
Даследчая і рабочая інфраструктура бесперапыннасці для доўгай працы з AI.
Страта бесперапыннасці
Пытанне
Што застаецца ад доўгага чалавечага праекта, калі размова заканчваецца, мадэль змяняецца або сістэма, якая дапамагала ў працы, больш недаступная?
Сур'ёзны праект можа перажыць чат, асобную сесію, мадэль і з часам нават AI-правайдара. Тады рашэнні аддзяляюцца ад прычын, па якіх яны былі прынятыя, крыніцы знікаюць з высноў, абавязацельствы выпадаюць з поля зроку, а састарэлая інфармацыя пачынае спрачацца з тым, што сапраўды з'яўляецца бягучым станам.
Праблема не зводзіцца да таго, што AI «забывае». Глыбей — гісторыя самой працы: што адбылося, чаму было прынята рашэнне, што змянілася пазней і які стан цяпер з'яўляецца аўтарытэтным, — можа распасціся паміж сістэмамі, якія ні чалавек, ні наступны AI ўжо не кантралююць цалкам.
Што павінна захавацца
MY MEMORY вырас з практычнай неабходнасці: наступны AI не павінен здагадвацца, што адбывалася да яго з'яўлення, а чалавек не павінен зноў і зноў уручную аднаўляць адну і тую ж гісторыю праекта.
Праект → Падзея → Рашэнне → Прычына → Чалавек → Дакумент → Абавязацельства → Бягучы стан → Крыніца
AI можа ўдзельнічаць у памяці. Але ён не павінен валодаць гэтай памяццю.
Таму рабочая сістэма захоўвае доўгатэрміновую памяць праекта па-за асобнай размовай або правайдарам і лічыць паходжанне інфармацыі часткай яе сэнсу. Факт — не тое самае, што меркаванне. Прапанова — не тое самае, што прынятае рашэнне. Захаваная гісторыя не становіцца аўтаматычна бягучай ісцінай. Пазнейшая папраўка павінна мець магчымасць замяніць ранейшы стан, не робячы выгляду, быццам ранейшага стану ніколі не існавала.
Чаму важная бесперапыннасць пад кантролем чалавека
Бесперапыннасць — гэта не толькі магчымасць знайсці інфармацыю. Гэта захаванне структуры таго, як было дасягнута разуменне.
Калі рашэнні, прычыны, крыніцы і кантэкст размеркаваныя паміж сістэмамі, якія могуць змяніцца або знікнуць, чалавек можа захаваць самі файлы — і ўсё ж страціць гісторыю, якая рабіла гэтыя файлы асэнсаванымі.
MY MEMORY даследуе іншыя адносіны з AI: мадэль можа дапамагаць фіксаваць, звязваць, знаходзіць і тлумачыць памяць, але доўгатэрміновы запіс застаецца пад кантролем карыстальніка і здольны перажыць замену самой мадэлі.
Сістэма можа змяніцца. Бесперапыннасць павінна застацца з чалавекам.
Сістэма
Як гэта працуе
Цяперашняя архітэктура — гэта сістэма бесперапыннасці з улікам паходжання даных, прызначаная для захавання відавочнага стану праекта паміж сесіямі, мадэлямі і AI-правайдарамі.
Рэалізаваныя механізмы адрозніваюць актуальную, састарэлую, замененую, канфліктную і нявызначаную інфармацыю; захоўваюць рашэнні разам з прычынамі і крыніцамі; выкарыстоўваюць відавочныя пераходы стану, правераныя чалавекам, замест таго каб лічыць непразрыстае выманне гісторыі размовы аўтарытэтнай памяццю.
Праверкі аднаўлення ахоплівалі чыстыя сесіі-пераемнікі, неспрыяльныя ўмовы, адкіданне састарэлай асновы і аднаўленне паміж рознымі правайдарамі. Мэта не ў тым, каб кожная мадэль узнаўляла адзін і той жа адказ. Мэта — зрабіць стан працы дастаткова аднаўляльным, каб новая сістэма магла зразумець, што вядома, што застаецца нявызначаным, што было заменена і дзе ўсё яшчэ патрабуецца рашэнне чалавека.
Праверкі
Што ўжо паказалі праверкі
Аднаўленне чыстым пераемнікам
У адным загадзя вызначаным тэсце новая сесія ChatGPT аднавіла зададзены стан рэальнага доўгага праекта з карыстальніцкіх артэфактаў у Google Drive.
Пераказ гісторыі праекта
Аўтар не пераказваў гісторыю праекта, дапамога пасярэдніка не выкарыстоўвалася, а пераемнік не прасіў зноў тлумачыць перадгісторыю.
Праверкі пераноснага аднаўлення
Абмежаваныя тэсты таксама ўключалі некалькіх AI-правайдараў, неспрыяльныя ўмовы для пераемніка, адмову ад састарэлай асновы і відавочнае пацвярджэнне чалавекам карэктнага вяртання да актуальнага стану.
Сцэнарыі са знешнімі карыстальнікамі
Два незалежныя прагоны са знешнімі карыстальнікамі завяршыліся без пераказу гісторыі праекта і без дапамогі пасярэдніка. Гэта толькі накіравальнае сведчанне, а не агульнае сцвярджэнне пра зручнасць сістэмы.
Чаго гэтыя даныя не даказваюць
- Гатовую ўніверсальную сістэму памяці.
- Вытворчую бяспеку, маштабаванасць або гатоўнасць да шматкарыстальніцкай працы.
- Цалкам нейтральную да правайдараў запісвальную сумяшчальнасць паміж усімі AI-сістэмамі.
- Доўгатэрміновую надзейнасць у рэальных вытворчых умовах.
- Якую-небудзь клінічную, медыцынскую або кагнітыўна-тэрапеўтычную карысць.
Цяперашнія даныя пацвярджаюць абмежаваныя паводзіны бесперапыннасці і аднаўлення толькі ў правераных умовах. Гэтыя высновы нельга аўтаматычна распаўсюджваць за іх межы.
Цяпер
Што даследуецца цяпер
Цяперашняя праца сканцэнтравана на Project & Decision Memory для рэальных шматэтапных праектаў з удзелам AI: на захаванні рашэнняў, прычын, крыніц, абавязацельстваў і актуальнага стану паміж мноствам сесій і інструментаў пры адначасовым зніжэнні аб'ёму ручнога аднаўлення кантэксту і памылак праз састарэлую гісторыю.
Наступныя практычныя пытанні — як зрабіць змястоўную фіксацыю менш ручной, як здабываць толькі сапраўды патрэбны кантэкст, як захоўваць канфлікты і нявызначанасць бачнымі, не ператвараючы іх у ілжывую пэўнасць, і як зрабіць бесперапыннасць карыснай у звычайнай штодзённай працы, а не толькі ў кантраляваных тэстах аднаўлення.
Цяперашні стан
- Рабочы прататып.
- Выкарыстоўваецца ў цяперашняй доўгай працы над праектамі з удзелам AI.
- Праведзены абмежаваныя тэсты бесперапыннасці і аднаўлення.
- У невялікім маштабе правераны сцэнарыі са знешнімі карыстальнікамі.
- Архітэктура застаецца ў актыўнай распрацоўцы і пераглядзе.
Чалавек
Доўгатэрміновы кірунак
Больш шырокая ідэя — асабістая бесперапыннасць: памяць, якая застаецца з чалавекам, пакуль праходзяць гады, змяняюцца праекты і прыходзяць ды сыходзяць AI-сістэмы.
Доўгатэрміновая мэта — не проста навучыць адну AI-размову памятаць іншую. Бесперапыннасць паміж сесіямі, мадэлямі і правайдарамі — толькі механізм. Больш глыбокае пытанне ў тым, ці можа чалавек захоўваць і пазней аднаўляць структуру ўласнай гісторыі: што адбылося, што ён ведаў у той момант, што вырашыў, чаму прыняў гэтае рашэнне, якія крыніцы на яго паўплывалі, што змянілася пазней і якая версія запісу цяпер з'яўляецца актуальнай.
Тыя ж прынцыпы бесперапыннасці з часам могуць аказацца прыдатнымі да арганізацыйных, даследчых, творчых і іншых доўгатэрміновых асяроддзяў ведаў, дзе маюць значэнне паходжанне інфармацыі і актуальны стан.
Будучае даследаванне. Асобны гарызонт — асабістая кагнітыўная бесперапыннасць на працягу доўгіх перыядаў жыцця, уключаючы звычайнае чалавечае забыванне і, асобна, пытанне пра тое, ці могуць карыстальніцкія структуры памяці калі-небудзь аказацца карыснымі ў даследаваннях ранняга зніжэння памяці або ранніх стадый дэменцыі. Гэта не медыцынскае сцвярджэнне. MY MEMORY не з'яўляецца медыцынскім вырабам, дыягнастычнай сістэмай, лячэннем дэменцыі або клінічным умяшаннем; любое такое прымяненне патрабавала б асобнага даследавання, працы па бяспецы і адпаведнай валідацыі.
Паходжанне
MY MEMORY вырас з практычнай неабходнасці захоўваць бесперапыннасць ва ўласных доўгатэрміновых праектах Ashraellen з удзелам AI, дзе рашэнні, прычыны, крыніцы і цяперашні стан павінны былі перажываць асобныя сесіі і інструменты.
Я пачаў будаваць гэтую сістэму не як абстрактны эксперымент з памяццю AI. Пры працы над мноствам паралельных праектаў станавілася ўсё цяжэй пастаянна ўтрымліваць у галаве, дзе што адбылося, што ўжо было вырашана і чаму. Таму частку бесперапыннасці давялося вынесці вонкі — у стан праекта, рашэнні, крыніцы, handoff і recovery.
Тое, што пачалося як рашэнне паўторнай страты кантэксту, паступова ператварылася ў больш шырокае пытанне пра памяць, аўтарства, кантроль і бесперапыннасць у свеце, дзе чалавечая праца ўсё часцей праходзіць праз зменлівыя AI-сістэмы.
Спачатку мне была патрэбна памяць для праектаў. Потым пытанне стала шырэйшым: што чалавек павінен мець магчымасць не памятаць сам?
Сістэма можа змяніцца. Памяць павінна застацца з чалавекам.
Кантакт
Даследчы дыялог
Для даследчага дыялогу, тэставання або дарэчнага супрацоўніцтва: