Esblygu'r Graff: Gwneud Newid Deallusol yn Weladwy

Cyhoeddodd Andrej Karpathy gist yr wythnos hon yn disgrifio patrwm ar gyfer adeiladu cronfeydd gwybodaeth personol gan ddefnyddio LLMs. Nid adalw adeg ymholiad yw'r syniad, yn y ffordd y mae'r rhan fwyaf o systemau RAG yn gweithio. Yn hytrach, mae'r LLM yn cynyddrannol adeiladu ac yn cynnal wiki parhaus, gan integreiddio ffynonellau newydd i dudalennau presennol, cyfeirio croes, nodi gwrthddywediadau, a chynyddu dros amser. Mae'r wiki yn hyblyg ac yn eiddo i'r LLM. Mae'r ffynonellau amrwd yn ddi-symud. Fi sy'n darparu'r curadaeth a'r cwestiynau. Mae'r LLM yn gwneud y gwaith cadw llyfrau.

Mae'n fodel cymhellol, ac mae'n cysylltu'n uniongyrchol â gwaith 'Building a Second Brain' Tiago Forte, a phrosiectau cysylltiedig fel mempalace yr wyf wedi bod yn eu gwylio ac yn meddwl amdanynt ar gyfer fy syniad CortexYou fy hun. Ond yr hyn a ddaliodd fy sylw yn benodol, o safbwynt y safle, oedd cysyniad wedi'i gladdu yn y drafodaeth gymunedol o dan gist Karpathy.

Cyfeiriodd nifer o bobl at feysydd metadat ar gyfer olrhain statws tudalennau wiki: active, superseded, archived. Y pwynt yw nad yw gwybodaeth yn cronni'n unig. Mae'n cael ei disodli. Mae barn yn newid. Mae technoleg yn symud yn ei blaen. Nid yw'r dudalen a ysgrifennoch yn 2021 am sut i fynd at orchestration asiantau o reidrwydd yn anghywir, ond mae'n anghyflawn o gymharu â'r hyn y byddech yn ei ysgrifennu yn 2026. Os nad yw eich cronfa wybodaeth yn dangos yr esblygiad hwnnw, mae'n fflatio amser mewn ffordd sy'n gamarweiniol yn dawel.

Glanodd yr arsylwad hwnnw oherwydd mai dyma'n union broblem sydd gan y safle hwn.

Mae'r graff gwybodaeth yma eisoes yn cysylltu cynnwys trwy themâu, endidau a phostiadau cysylltiedig. Ond mae popeth y mae'n ei gynnwys yn cael ei drin fel pe bai yr un mor gyfredol. Mae post o 2023 yn archwilio nanoGPT yn eistedd fel nod cymrodur ochr yn ochr â rhywbeth a ysgrifennwyd eleni. Mae hynny'n iawn ar gyfer yr hyn y mae'r post hwnnw mewn gwirionedd, ond pe bawn wedi ysgrifennu rhywbeth wedyn a oedd yn ailymweld yn uniongyrchol â'r meddwl hwnnw neu'n ei ddisodli, nid oes gan y graff unrhyw ffordd o ddangos y trywydd hwnnw. Ni fyddai gan ddarllenydd sy'n llywio'r graff unrhyw arwydd am ba gyfeiriad y mae'r meddwl wedi symud.

Mae'r ateb yn syml mewn egwyddor. Pan fyddwch chi'n ysgrifennu post newydd sy'n disodli un cynharach yn benodol, rydych chi'n ei ddatgan yn y metadat:

Mae'r broses adeiladu yn codi hwn ac yn cynhyrchu ymyl evolves cyfeiriadol yn y graff, yn rhedeg o'r post newyddach i'r hen un. Yn y golygfa graff ar y dudalen archwilio, mae'r rhain yn ymddangos fel llinellau ambr toriad, yn weledol wahanol i'r llinellau llwyd a ddefnyddir ar gyfer cynnwys cysylltiedig a'r llinellau pwysol sy'n cysylltu themâu ac endidau. Gallwch ddilyn y gadwyn. Gallwch weld ble mae'r meddwl wedi symud.

Enghraifft real i fi fyddai postiadau am AutoGen, Semantic Kernel, ac yna Microsoft Agent Framework. Nid postiadau cysylltiedig yn unig ar yr un thema yw'r rhain. Maent yn gynnydd. Nid oedd y postiadau cynharach yn rhagweld ble y byddai'r offer yn cyrraedd. Mae graff sy'n gallu dangos y cynnydd hwnnw yn fwy gonest am natur y cynnwys nag un sy'n grwpio yn ôl thema yn unig.

Mae'r gwaith ychwanegol wrth awduro yn fach yn ôl dyluniad. Rydych chi ond yn ychwanegu'r maes ar y post newyddach, ar yr adeg rydych chi'n ei ysgrifennu, pan fo'r cysylltiad yn ffres yn eich meddwl. Nid ydych chi'n mynd yn ôl i addasu cynnwys hŷn. Dyma opsiwn dau o fframwaith Karpathy: edrych ymlaen yn hytrach nag yn ôl. Yn ymarferol mae'n golygu bod y graff yn mynd yn gyfoethocach dros amser heb greu baich cynnal a chadw.

Ni fyddai dim o hyn wedi dod i'r wyneb heb gist Karpathy yn sbarduno'r adlewyrchiad. Mae clod yn ddyledus yno. Mae'r patrwm ehangach y mae'n ei ddisgrifio, y wiki personol cynyddol, yn rhywbeth y byddaf yn dychwelyd ato wrth i mi symud CortexYou yn ei flaen. Ond am nawr, roedd hwn yn teimlo fel y cam bach cywir: cymryd y cysyniad, ei gymhwyso ble mae'n ffitio, a'i ryddhau.

Bydd y graff ar y dudalen archwilio yn dangos ymylon evolves wrth iddynt ymddangos. Os ydych chi'n darllen hwn ac mae gennych eich graff gwybodaeth neu safle personol eich hun, mae'r syniad yn ddigon syml i'w addasu. Nid yn yr effaith weledol y mae'r gwerth. Mae yn y ffaith o fod yn onest nad yw meddwl yn llonydd, a gwneud hynny'n weladwy i bobl sy'n dilyn eich gwaith dros amser.

#KnowledgeGraph #BuildingASecondBrain #LLM #SiteDevelopment