Algorytm, który nie rozumie portalu!

Od kil­ku ty­go­dni użyt­kow­ni­cy Salonu24, nie­gdyś zna­ne­go i sza­no­wa­ne­go por­ta­lu blo­go­we­go, któ­ry dziś zsze­dł na psy, bo go prze­jął nie­roz­gar­nię­ty pił­ka­rz, pró­bu­ją zre­kon­stru­ować re­gu­ły dzia­ła­nia no­we­go bo­ta AI, któ­ry ma­so­wo usu­wa ko­men­ta­rze. Nie cho­dzi o wul­gar­ne blu­zgi, spam czy pry­mi­tyw­ny hejt — te zni­ka­ły za­wsze i nikt nie ro­bił z te­go pro­ble­mu. Zni­ka­ją na­to­mia­st ko­men­ta­rze iro­nicz­ne, po­le­micz­ne, ana­li­tycz­ne, czę­sto me­ry­to­rycz­ne, cza­sem wrę­cz ste­ryl­nie po­praw­ne ję­zy­ko­wo. Jed­ne prze­cho­dzą, in­ne — nie­mal iden­tycz­ne w tre­ści — zni­ka­ją bez śla­du. Bez ko­mu­ni­ka­tu, bez uza­sad­nie­nia, bez moż­li­wo­ści od­wo­ła­nia.

  Lu­dzie za­czę­li więc ro­bić to, co za­wsze ro­bią w ta­ki­ch sy­tu­acja­ch: ob­ser­wo­wać, po­rów­ny­wać, te­sto­wać gra­ni­ce. Po­ja­wi­ły się teo­rie o czy­ta­niu mię­dzy wier­sza­mi, o wy­kry­wa­niu iro­nii, o ka­ra­niu okre­ślo­ny­ch te­ma­tów, o cen­zu­rze nar­ra­cyj­nej. Po­ja­wił się też hu­mor i pa­ra­no­ja, bo gdy re­gu­ły są nie­jaw­ne, umy­sł ludz­ki pro­du­ku­je hi­po­te­zy szyb­ciej, niż al­go­rytm kla­sy­fi­ku­je ko­men­ta­rze.

  Wszyst­kie te ob­ser­wa­cje ma­ją jed­ną ce­chę wspól­ną: wska­zu­ją, że sys­tem nie re­agu­je na tre­ść ro­zu­mia­ną se­man­tycz­nie, le­cz na coś bar­dziej pry­mi­tyw­ne­go i za­ra­zem bar­dziej bez­li­to­sne­go — na sta­ty­stycz­ne ry­zy­ko.

Co na­praw­dę wi­dzą użyt­kow­ni­cy?

  Z per­spek­ty­wy ko­men­tu­ją­cy­ch al­go­rytm za­cho­wu­je się cha­otycz­nie. W prak­ty­ce jed­nak to cha­os po­zor­ny. Zni­ka­ją przede wszyst­kim wy­po­wie­dzi kon­flik­to­we, na­wet je­śli są grzecz­ne. Zni­ka­ją ko­men­ta­rze, któ­re wcho­dzą w spór, pod­wa­ża­ją, ana­li­zu­ją, roz­bie­ra­ją cu­dze te­zy na czyn­ni­ki pierw­sze. Prze­cho­dzą na­to­mia­st ba­na­ły, tru­izmy, ogól­ni­ki, zgo­da bez tre­ści al­bo emo­cja bez ar­gu­men­tu. Sys­tem pre­miu­je gład­ko­ść, a ka­rze tar­cie.

  To bar­dzo cha­rak­te­ry­stycz­ny ob­jaw. Nie ma­my tu do czy­nie­nia z mo­de­ra­cją ro­zu­mie­ją­cą ję­zyk, tyl­ko z fil­trem, któ­ry mi­ni­ma­li­zu­je praw­do­po­do­bień­stwo pro­ble­mu. Iro­nia je­st pro­ble­mem. Po­le­mi­ka je­st pro­ble­mem. In­te­li­gent­ny kon­flikt je­st pro­ble­mem. Pier­do­ły pro­ble­mem nie są.

Dia­gno­za tech­nicz­na bez teo­rii spi­sko­wy­ch

  Naj­prost­sze wy­ja­śnie­nia by­wa­ją naj­bar­dziej sen­sow­ne, brzy­twa Ockha­ma by­wa naj­bar­dziej uży­tecz­na. Wszyst­ko wska­zu­je na to, że nie wdro­żo­no żad­ne­go au­tor­skie­go sys­te­mu, żad­nej in­te­li­gent­nej re­dak­cji AI, żad­nej fi­ne­zyj­nej cen­zu­ry. Za­sto­so­wa­no go­to­we, ze­wnętrz­ne na­rzę­dzie do mo­de­ra­cji tre­ści — ta­kie, ja­kie dziś ku­pu­je się hur­to­wo: ana­li­zę sen­ty­men­tu, kla­sy­fi­ka­cję tok­sycz­no­ści, pro­gi ry­zy­ka usta­wio­ne ni­sko i de­cy­zje po­dej­mo­wa­ne au­to­ma­tycz­nie, bez udzia­łu czło­wie­ka.

  To nie je­st al­go­rytm uczą­cy się kul­tu­ry por­ta­lu Salon24. To al­go­rytm chro­nią­cy wła­ści­cie­la przed po­ten­cjal­nym kło­po­tem. Nie przed złem, nie przed kłam­stwem, nie przed głu­po­tą — tyl­ko przed ry­zy­kiem praw­nym.

Je­den wła­ści­ciel i je­den wy­ko­naw­ca

  W tym miej­scu war­to przej­ść od ob­ja­wów do struk­tu­ry de­cy­zyj­nej. Naj­bar­dziej spój­ny ob­raz, ja­ki się z te­go wy­ła­nia, je­st ba­nal­ny do bó­lu. Je­den wła­ści­ciel, któ­ry za­in­we­sto­wał w me­dium, nie ro­zu­mie­jąc do koń­ca, czym me­dium po­le­micz­ne róż­ni się od do­wol­nej stro­ny z tre­ścią. I je­den tech­nicz­ny wy­ko­naw­ca, któ­ry do­stał za­da­nie: ma być bez­piecz­nie, bez afer, bez pro­ble­mów praw­ny­ch.

  W ta­kim ukła­dzie nie ma miej­sca na sub­tel­no­ść. Tech­nicz­ny wy­ko­naw­ca nie pro­jek­tu­je kul­tu­ry de­ba­ty, tyl­ko za­bez­pie­cza sys­tem. Bie­rze więc naj­bar­dziej pry­mi­tyw­ne, naj­bar­dziej ase­ku­ra­cyj­ne na­rzę­dzia do­stęp­ne na ryn­ku. Usta­wia pro­gi tak, by al­go­rytm wo­lał usu­nąć dzie­sięć sen­sow­ny­ch ko­men­ta­rzy niż prze­pu­ścić je­den, któ­ry mógł­by kie­dyś zo­stać za­cy­to­wa­ny w po­zwie al­bo ar­ty­ku­le kry­tycz­nym.

  To nie je­st zła wo­la. To je­st lo­gi­ka out­so­ur­cin­gu od­po­wie­dzial­no­ści.

Por­tal ja­ko pro­dukt ubocz­ny au­to­ma­ty­za­cji

  W efek­cie po­wsta­je sy­tu­acja pa­ra­dok­sal­na. Por­tal opi­nii za­czy­na ka­rać opi­nię. Plat­for­ma de­ba­ty za­czy­na eli­mi­no­wać de­ba­tę. Nie dla­te­go, że ktoś chce uci­szyć użyt­kow­ni­ków, le­cz dla­te­go, że nikt nie wziął od­po­wie­dzial­no­ści za sens ist­nie­nia te­go miej­sca. Al­go­rytm nie ro­zu­mie, czym je­st spór in­te­lek­tu­al­ny. Wła­ści­ciel nie wy­da­je się tym za­in­te­re­so­wa­ny. A wy­ko­naw­ca tech­nicz­ny nie ma man­da­tu, by my­śleć ka­te­go­ria­mi kul­tu­ry sło­wa.

  Tak wła­śnie ro­dzą się sys­te­my, któ­re dzia­ła­ją po­praw­nie tech­nicz­nie i ab­sur­dal­nie spo­łecz­nie. Al­go­ryt­my me­diów spo­łecz­no­ścio­wy­ch dzia­ła­ją po­dob­nie idio­tycz­nie.

Naj­praw­do­po­dob­niej Salon24 nie ma żad­ne­go su­per­in­te­li­gent­ne­go bo­ta

  Na ryn­ku są dziś go­to­we usłu­gi, któ­re cen­zu­ru­ją za wła­ści­cie­la ser­wi­su. Przy­kład to Mo­de­ra­tion API od Ope­nAI: wy­sy­ła­my tek­st ko­men­ta­rza, a z po­wro­tem do­sta­je­my pro­stą in­for­ma­cję, czy mo­del wi­dzi w nim prze­moc, nie­na­wi­ść, za­chę­ca­nie do prze­stęp­stw, tre­ści sek­su­al­ne itd. Ta­ka usłu­ga je­st dla de­we­lo­pe­rów bez­płat­na, więc mo­że być uży­wa­na na do­wol­nie ma­łym por­ta­lu bez ge­ne­ro­wa­nia mie­sięcz­ny­ch fak­tur za każ­dy wpis. In­ne fir­my ofe­ru­ją po­dob­ne API z dar­mo­wy­mi li­mi­ta­mi mie­sięcz­ny­mi al­bo go­to­we mo­de­le open so­ur­ce, któ­re moż­na uru­cho­mić na wła­snym ser­we­rze bez opłat za każ­de spraw­dze­nie.​

  Je­że­li wła­ści­ciel Salonu24 chce mieć mo­de­ra­cję za dar­mo, to naj­prost­sze je­st wła­śnie sko­rzy­sta­nie z ta­kiej usłu­gi: je­den end­po­int HTTP, ze­ro kosz­tów per ko­men­ta­rz, a ca­łą in­te­li­gen­cję do­star­cza ze­wnętrz­ny do­staw­ca. W prak­ty­ce ta­ki kla­sy­fi­ka­tor dzia­ła bar­dzo pro­sto: je­śli w tek­ście wi­dzi ze­staw słów i kon­struk­cji ko­ja­rzo­ny­ch z prze­mo­cą, ter­ro­ry­zmem, na­wo­ły­wa­niem do de­sta­bi­li­za­cji pań­stwa czy in­ny­mi czy­na­mi za­bro­nio­ny­mi, da­je sy­gnał: to je­st nie­bez­piecz­ne i por­tal au­to­ma­tycz­nie usu­wa ko­men­ta­rz lub go blo­ku­je. Tu moż­na so­bie po­dob­ne bo­ty po­te­sto­wać: 

• https://www.nyckel.com/pretrained-classifiers/offensive-language-identifier/
• https://www.contentmoderationapi.net/demo_dashboard/index.php

Grzegorz GPS Świderski
https://t.me/KanalBlogeraGPS
https://Twitter.com/gps65
https://www.youtube.com/@GPSiPrzyjaciele

PS. Zagadka dla uważnych czytelników. Napisałem notkę blogową, którą bot Salonu24 usunął. Jednak zastosowałem podstęp i dodałem ponownie, tak, że człowiek widzi dokładnie to samo, a bot-cenzor tego nie zauważył i notka przetrwała. Oto ona: 

• https://salon24.pl/u/gps65eu/1482248,jak-sie-rozwija-ai

Za co bot ją wywalił? Jaki to fortel?