Dwaj agenci i arbiter. Czy AI to nowa inkwizycja?

To, co dziś na­zy­wa­my sys­te­mem mul­ti-agen­to­wym AI, nie je­st żad­ną no­wą me­to­do­lo­gią po­zna­nia. To cy­fro­wa re­kon­struk­cja bar­dzo sta­re­go, cy­wi­li­za­cyj­ne­go wy­na­laz­ku: spo­ru dwó­ch stron przed trze­cim ar­bi­trem. Tak dzia­ła sąd. Tak dzia­ła na­uka. Tak – w isto­cie – dzia­ła Za­chód.

  Nie cho­dzi o dia­log w sty­lu: wszy­scy się tro­chę zga­dza­my. Cho­dzi o kon­flikt za­pro­jek­to­wa­ny tak, by mu­siał się skoń­czyć roz­strzy­gnię­ciem. Nie zgo­dą. Wy­ro­kiem.

  To je­st za­sad­ni­cza róż­ni­ca cy­wi­li­za­cyj­na. W wie­lu kul­tu­ra­ch Wscho­du spór je­st trak­to­wa­ny ja­ko błąd sys­te­mu – coś, co na­le­ży wy­ga­sić w imię har­mo­nii i po­rząd­ku we wspól­no­cie. Za­chód zro­bił coś od­wrot­ne­go. Uznał, że praw­da nie ro­dzi się z har­mo­nii, tyl­ko z prze­gra­nej jed­nej ze stron. Z eli­mi­na­cji błę­dów.

  Dla­te­go na­uka nie na­ro­dzi­ła się w Chi­na­ch czy w Ja­po­nii – oni me­to­do­lo­gię umie­li tyl­ko sku­tecz­nie sko­pio­wać. Na­uka i idą­ca za nią tech­no­lo­gia na­ro­dzi­ła się tam, gdzie kon­flikt był nie tyl­ko do­pusz­czal­ny, ale in­sty­tu­cjo­nal­nie pre­mio­wa­ny.

Spór ja­ko me­to­da

  Spór wy­my­śli­li sta­ro­żyt­ni Gre­cy. Upo­rząd­ko­wał go św. To­ma­sz z Akwi­nu, pi­sząc Su­mę Teo­lo­gicz­ną ja­ko se­kwen­cję: py­ta­nie – ar­gu­men­ty za – ar­gu­men­ty prze­ciw – roz­strzy­gnię­cie. To nie by­ła me­dy­ta­cja. To był pro­to­kół star­cia.

  Scho­la­sty­cy zro­bi­li z te­go me­to­dę pra­cy. In­sty­tu­cjo­nal­ną for­mę nada­ła te­mu Świę­ta In­kwi­zy­cja, wpro­wa­dza­jąc fi­gu­rę ad­wo­ka­ta dia­bła. To był obo­wiąz­ko­wy opo­nent. Nie po to, by coś zro­zu­mieć, tyl­ko po to, by znisz­czyć te­zę, je­śli się da.

  W XX wie­ku for­mal­nie opi­sał to Karl Pop­per. Teo­ria je­st na­uko­wa tyl­ko wte­dy, gdy po­tra­fi­my wska­zać wa­run­ki, w któ­ry­ch uzna­li­by­śmy ją za fał­szy­wą. Je­że­li nie ist­nie­je sen­sow­ny opo­nent, nie ist­nie­je sen­sow­na praw­da na­uko­wa. Praw­da i fał­sz po­wsta­ją pa­ra­mi. Jednak roz­strzy­gnię­cie nie le­ży po­środ­ku.

  Nie ma żad­nej rów­no­ści mię­dzy Bo­giem a sza­ta­nem, żad­ne­go wiecz­ne­go ście­ra­nia się yin i yang. Je­st to, co słusz­ne i to, co nie­słusz­ne, je­st praw­da i fał­sz, one ma­ją się ście­rać, ma­ją wal­czyć, ale wy­grać mu­si to pierw­sze — tak by przy­pi­sać wal­czą­ce stro­ny do wła­ści­wy­ch po­jęć. Nie­mniej bez wal­ki tej praw­dy nie ma­my szans roz­po­znać. Wbrew pio­sen­ce cho­dzi nie o to, by go­nić kró­licz­ka, ale by zła­pać go.

Błąd em­pa­tycz­ne­go dia­lo­gu

  Na tym tle wi­dać sła­bo­ść po­dej­ścia pro­po­no­wa­ne­go kie­dyś przez Ro­ma­na In­gar­de­na. We­dług nie­go doj­ście do praw­dy wy­ma­ga za­wie­sze­nia wła­sny­ch prze­ko­nań, wy­ma­ga em­pa­tii i spo­tka­nia się z opo­nen­tem gdzieś po­mię­dzy. To po­dą­ża­nie za fi­lo­zo­fią Wscho­du.

  To je­st kon­cep­cja psy­cho­lo­gicz­na, nie epi­ste­mo­lo­gicz­na. Mo­że po­pra­wiać re­la­cje mię­dzy­ludz­kie, ale nie pro­wa­dzi do praw­dy. Mo­że Chiń­czy­cy są szczę­śliw­si, bo wybudowali mur, ale to my od­kry­li­śmy Ame­ry­kę i to Ame­ry­ka do­tar­ła na Księ­życ.

  Kom­pro­mis mię­dzy praw­dą a fał­szem nie da­je pół­praw­dy. Da­je no­wy fał­sz. Ne­go­cjo­wa­nie praw­dy dzia­ła jak tar­go­wa­nie się o ce­nę – obie stro­ny scho­dzą ze sta­no­wi­sk, aż zo­sta­je świę­ty spo­kój. A świę­ty spo­kój nie je­st kry­te­rium praw­dy. By mieć świę­ty spo­kój trze­ba bu­do­wać mur, a my chce­my wie­dzieć, co je­st za wzgó­rzem.

  Praw­da nie do­ty­czy wnę­trza czło­wie­ka. Nie do­ty­czy emo­cji, in­ten­cji ani szcze­ro­ści. Do­ty­czy ję­zy­ka. Zda­nie: „śnieg je­st bia­ły” je­st praw­dzi­we wte­dy i tyl­ko wte­dy, gdy śnieg je­st bia­ły. Nic wię­cej. Ary­sto­te­les miał ra­cję.

In­sty­tu­cjo­na­li­za­cja kon­flik­tu

  Za­chód nie pró­bo­wał kon­flik­tu wy­gła­dzić. Zro­bił coś do­kład­nie od­wrot­ne­go: zin­sty­tu­cjo­na­li­zo­wał go. W są­dzie pro­ku­ra­tor ma obo­wią­zek za wszel­ką ce­nę udo­wod­nić wi­nę. Obroń­ca ma obo­wią­zek za wszel­ką ce­nę ją pod­wa­żyć. Sę­dzia nie ne­go­cju­je kom­pro­mi­su. Wy­bie­ra, któ­re zda­nia o świe­cie le­piej pa­su­ją do do­wo­dów.

  Praw­da ma się ujaw­nić po­mi­mo am­bi­cji, emo­cji i złej wo­li uczest­ni­ków – a cza­sem wła­śnie dzię­ki nim. Każ­da stro­na wy­cią­ga wszyst­kie moż­li­we ar­gu­men­ty, by znisz­czyć nar­ra­cję prze­ciw­ni­ka. I bar­dzo do­brze. O to cho­dzi.

  W na­uce dzia­ła to iden­tycz­nie. Au­tor teo­rii rzu­ca te­zę i ją udo­wad­nia w eks­pe­ry­men­ta­ch. Mo­że to zro­bić tyl­ko in­duk­cyj­nie, a więc za­wsze nie­pew­nie. Resz­ta świa­ta pró­bu­je ją oba­lić. Je­że­li prze­ży­je – prze­cho­dzi da­lej. Je­że­li nie – od­pa­da. Roz­strzy­gnię­cie nie je­st w środ­ku. Je­st na jed­nym z krań­ców.

  U nas w Pol­sce tę lo­gi­kę świet­nie uchwy­ci­li Ku­rek i Ka­miń­ski w son­dzie. Jej sens był ba­nal­ny i za­ra­zem głę­bo­ko za­chod­ni. Nie py­ta­my, kto ma ra­cję. Zmu­sza­my dwie nar­ra­cje do zwar­cia i pa­trzy­my, któ­ra się roz­sy­pie. To nie był dia­log. To nie by­ła em­pa­tycz­na roz­mo­wa. To był kon­tro­lo­wa­ny kon­flikt, w któ­rym praw­da mia­ła się ujaw­nić przez eli­mi­na­cję sprzecz­no­ści, a nie przez uśred­nia­nie opi­nii. Do­kład­nie tak, jak w są­dzie. Do­kład­nie tak, jak w na­uce. I do­kład­nie tak sa­mo dzia­ła­ją dziś sys­te­my mul­ti-agen­to­we AI.

Mul­ti-agen­ci ja­ko cy­fro­wy sąd

  Mo­de­le LLM są mo­de­la­mi ję­zy­ko­wy­mi. A praw­da – w kla­sycz­nym sen­sie – je­st wła­sno­ścią zdań. To dla­te­go do praw­dy moż­na do­cho­dzić ję­zy­ko­wo, po­przez spór ję­zy­ko­wy.

  Je­den agent bu­du­je te­zę. Dru­gi sys­te­ma­tycz­nie ją nisz­czy. Trze­ci wa­ży ar­gu­men­ty, fil­tru­je nar­ra­cje i wy­da­je wy­rok ro­bo­czy: co prze­cho­dzi da­lej, a co lą­du­je w ko­szu.

  Ro­la ta­kie­go sys­te­mu nie po­le­ga na by­ciu in­te­li­gent­nym. Po­le­ga na ma­so­wej pro­duk­cji i se­lek­cji kan­dy­da­tów na praw­dzi­we zda­nia. To, co scho­la­sty­cy po­tra­fi­li mie­lić la­ta­mi, roz­wa­ża­jąc, ile dia­błów zmie­ści się na czub­ki igły, dziś moż­na prze­le­cieć w mi­li­se­kun­da­ch. A ar­bi­ter nie je­st kom­pro­mi­sem mię­dzy agen­ta­mi. Je­st ich sę­dzią.

Emo­cje i pro­blem nie­skoń­czo­ne­go spo­ru

  W są­dzie emo­cje są czę­ścią spek­ta­klu. W epi­ste­mo­lo­gii są szu­mem. Mo­gą być uży­tecz­ne ja­ko in­ter­fejs – nie mo­gą być kry­te­rium roz­strzy­gnię­cia. Je­że­li emo­cje wej­dą do war­stwy de­cy­zyj­nej, sys­tem za­mie­ni się w cy­fro­wy talk-show.

  Po­zo­sta­je pro­blem nie­skoń­czo­nej dys­ku­sji. Mul­ti-agen­ci ma­ją na­tu­ral­ną skłon­no­ść do eks­plo­zji ar­gu­men­tów. To cy­fro­wy od­po­wied­nik scho­la­sty­ki bez so­bo­ru. Bez mo­men­tu: „ko­niec spo­ru, za­pa­da wy­rok” dys­kurs ni­gdy się nie do­my­ka.

  Nie­mniej in­for­ma­tycz­ny pro­blem sto­pu je­st nie­roz­strzy­gal­ny. I co z te­go? En­tro­pia też ro­śnie i je­st to pra­wo fun­da­men­tal­ne. A jed­nak ży­cie po­le­ga na lo­kal­nym, tym­cza­so­wym jej zmniej­sza­niu. Nie po to, by świat za­mie­nić w krysz­tał, tyl­ko po to, by utrzy­mać sen­sow­ny ru­ch.

Agen­ci AI

  Mul­ti-agen­ci AI nie są scien­ce fic­tion. Są po­wro­tem do ko­rze­ni. Do prze­ko­na­nia, że praw­da le­piej wy­ła­nia się z me­ry­to­rycz­ne­go kon­flik­tu niż z grzecz­ne­go po­ta­ki­wa­nia.

  Za­da­niem in­sty­tu­cji – dziś ludz­ki­ch, ju­tro cy­fro­wy­ch – je­st to, by ten kon­flikt był mak­sy­mal­nie bru­tal­ny me­ry­to­rycz­nie i mak­sy­mal­nie bez­piecz­ny cy­wi­li­za­cyj­nie.

  Praw­da nie je­st uczu­ciem zgo­dy. Je­st tra­jek­to­rią – co­raz lep­szym do­pa­so­wa­niem ję­zy­ka do twar­dej rze­czy­wi­sto­ści.

  Dwaj agen­ci i ar­bi­ter są no­wą in­kwi­zy­cją, któ­ra pa­li nie na fi­zycz­nym sto­sie, ale odkłada zadania na in­for­ma­tycz­ny sto­s, by do ni­ch po­tem ewentualnie wró­cić. To chodzenie po drzewie. Ci agen­ci są no­wą for­mą sta­re­go me­cha­ni­zmu, któ­ry od wie­ków ro­bi na Za­cho­dzie waż­ną rze­cz: od­dzie­la zda­nia, któ­re prze­trwa­ją, od ty­ch, któ­re mu­szą umrzeć, bo nie dzia­ła­ją w prak­ty­ce. Ludzkość zatoczyła wielkie koło i wróciła na drzewa.

Grzegorz GPS Świderski
Kanał Blogera GPS
GPS i Przyjaciele
X.GPS65

PS. Notki powiązane:

• Krótka historia poznania
• Prawda
• Matematyka
• Logika to naukowe czary
• Wschód i Zachód

Tagi: gps65, AI, agent, spór, cywilizacja, Zachód.