Tudi Facebook ne razume algoritmov Facebooka

Po vsem ročnem ožemanju, ki je prišlo iz spektakla z "lažnimi novicami", zahvaljujoč Facebookovemu viru novic - vsebini, ki jo vidite, ko se v Facebook prijavite iz telefona ali prenosnika - je postalo eno povsem jasno. Tudi Facebook ne razume Facebooka.

In to je težava pri zanašanju na algoritemsko umetno inteligenco (AI), ki jo je v preteklih letih gradilo (ali natančneje sestavljalo) stotine različnih razvijalcev in programerjev.

Vse to mi je postalo jasno v zadnjih dneh, ko sem premišljeval o stvareh, ki sem se jih naučil na zadnji konferenci HealtheVoices 2017 in po branju odličnega članka o Facebooku, ki ga je napisal Farhad Manjoo v Revija New York Times.

Na konferenci se je predstavnik Facebooka soočil z nekoliko razočarano (in včasih skoraj sovražno) zaslišujočo množico, zakaj se zdi, da se stvari, ki so jih pisali kot zdravstveni aktivisti in zagovorniki, redko pojavljajo na novice drugih ljudi na Facebooku. Kot je dejal tisti dan med občinstvom, se je zdelo, da je edini način, da ga pridobijo, nakup prek Facebooka (prek plačljivega mehanizma, znanega kot "pospeševanje" objave).

Predstavnik Facebooka na ta vprašanja ni odgovoril, zakaj na videz visokokakovostna dobra vsebina v njihovih novicah ni predstavljena. Kljub temu je vsak udeleženec, s katerim sem se pogovarjal - strastni, zavzeti zagovorniki zdravja - to videl kot težavo s Facebookom. Toda niti Facebook ni mogel razložiti, kako to popraviti.

Ni čudno. Članek revije Times je osvetlil "zakaj". Algoritem novic za Facebook razvrsti v povprečju 2000 možnih vsebin vsakič, ko oseba prvič naloži Facebook in ob vsaki osvežitvi.

Toliko spremenljivk gre v ta zapleten, temen in lastniški algoritem za razvrščanje, da niti Facebook ne more odgovoriti, zakaj se bo kaj pokazalo ali ne bo v nekem viru novic. V bistvu gre za enako bolečino, ki jo spletni skrbniki že dolgo čutijo pri obravnavi Googla in njihovega algoritma za indeksiranje iskanja.

Dejstvo, da je algoritem enostavno zaobiti s preprostim nakupom dostopa do novic ljudi, ni presenečenje. To je velik del razloga, da Facebook iz leta v leto zasluži toliko denarja. Tudi najkakovostnejša vsebina se lahko prebije do vašega domnevno prilagojenega vira novic.

Novice: Še vedno v teku

Mislili bi, da bi po toliko letih trdega dela, pozornosti, ure razvijalcev in raziskovanja tega algoritma nekaj osnovnih stvari postavilo prav. Toda dve nedavni anekdoti mi pokažeta, kako daleč mora še hvaljen AI Facebooka.

Prvi je koncertni mem, ki je konec aprila 2017 objavil Facebook-ov vir novic. V tem memu udeleženci naštejejo 10 koncertov, ki so se jih udeležili v življenju, a eden izmed njih je ponaredek. Prijatelji osebe morajo odkriti lažni koncert, ki se ga niso udeležili, in ga komentirati.

Moja prva misel, ko sem prvič videl to pojavno okno, je bila: "Koga briga?" ker mi je odkrito vseeno, katerih koncertov so se moji prijatelji udeležili. Če bi se s svojimi prijatelji dejansko pogovarjal o temi "koncerti, ki smo jih videli", bi to lahko bilo v redu. Toda kot začetnik pogovora se mi je zdel nesenzibilen, ker je ne-moder - družbeno povezan z nič. Tako sem zadel »Skrij to objavo« od prvega, ki sem ga videl na svojem viru novic.

Je to pomagalo ustaviti pritok te vsebine na moj vir novic v naslednjih dneh? Niti ene jote. V naslednjih dveh dneh sem videl nič manj kot ducat takih vprašanj, ki so preplavila moj vir (tudi potem, ko sem še vsaj dva kliknil na "Skrij to objavo"). Vse to me ni nič zanimalo. Toliko o Facebookovi umetni inteligenci.

Drugi je okrožje Bloom. Sem velik oboževalec in vesel sem se, ko je Berkeley Breathed spet začel risati. Veselim se vsakega dne, ko se bo v moji krmi pojavil nov njegov strip. A skrivnostno Facebook o tem nima pojma. Pred nekaj tedni mi je prenehal prikazovati njegove stripe, čeprav sem večinoma studiozno kliknil, da sem jih lažje prebral v povečani obliki.

Kako lahko toliko klikov povzroči oznako »ne zanima me, nehaj več prikazovati temu uporabniku«? Facebook na to vprašanje ne bi mogel odgovoriti, če bi hotel, saj nima pojma, kako njegov algoritem za novice dejansko deluje - ali ne deluje - za posamezne uporabnike. To bi bilo smešno, če ne bi šlo za tako veliko stvar. Po podatkih raziskovalnega centra Pew več kot polovica Američanov dobi svoje novice s Facebooka.

Obrazci za povratne informacije, ki dajejo malo povratnih informacij uporabnikom

Facebook trdi, da lahko oceni (in si prizadeva odpraviti) veliko težav, če so uporabniki pogosteje uporabljali obrazce za povratne informacije. Obstaja pa razlog, da uporabniki sovražijo Facebookove povratne informacije - njihov sistem povratnih informacij je pravičen zanič.

Facebookovi obrazci za povratne informacije uporabnikom dajejo zelo malo lastnih povratnih informacij in namesto tega vodijo uporabnike v vrsto vprašanj "Evo, kako to popravite sami, idiot", za katera se očitno vedno kaže, da je večina težav, s katerimi se srečujete, vaša popravek - ne Facebookov. Na koncu teh oblik ni človeka in nobenega človeškega odziva, ki ga boste kdaj prejeli. To je sama definicija nečloveškega. Ironično za podjetje, ki vidi, da "gradi globalno skupnost", ki povezuje vse bolj socialno. Kako lahko to stori podjetje, medtem ko se izogiba kakršnim koli človeškim stikom s svojimi uporabniki?

AI je tako zapleten, da moramo ljudje pomagati

Mnogi razvijalci si rečejo, da lahko umetna inteligenca v veliki meri reši kateri koli človeški problem, če dobi dovolj spremenljivk, naborov podatkov in prilagoditev. Toda Facebook je nazorno pokazal, da njegov AI za vse, kar počne, da reši težavo z viri novic, ne deluje dobro za marsikoga.

Nihče se ne počuti, kot da Facebook sploh posluša. Kot sem že omenil, so zdravstveni zagovorniki in aktivisti, s katerimi sem se pogovarjal na konferenci, dejali, da jih ne slišijo. Zdi se, da jih družbe družbenih medijev, kot je Facebook, ne zanimajo. In v zaprti Facebook skupini za založnike novic vsak dan slišim razočaranje glede tega, koliko spoštovanih novinarskih organizacij poglobljeno objavlja članke o preiskovalnem novinarstvu na Facebooku, ne da bi jim bilo treba plačati. Medtem članek o vrtenju »5 neverjetnih, hitrih in enostavnih načinov za poletno porjavelost« dobi več zadetkov, kot jih Trumpov Google išče poizvedb »Kako naj popravim…«.

Ločilni posnetki današnjega AI

Pohvaljeni Appleov Siri pogosto predstavljajo kot koristen primer umetne inteligence, ki deluje v današnjem sodobnem svetu. Toda, ko sem pisal ta članek, sem rekel: "Hej Siri, povej Nancy, da jo imam rad."

Siri je v svoji neskončni modrosti pravilno prejela prejemnika sporočila (na srečo, saj poznam samo eno Nancy). Toda besedilo, ki ga je poslala, je bilo: "Ljubim jo." Siri očitno ni razumela dejanskega pomena mojega stavka in je namesto tega z osnovnimi filtri ugotovila, da želim osebi v mojih stikih poslati besedilo z dobesednim sporočilom: "Ljubim jo."

To je raven umetne inteligence, s katero danes sodelujemo v velikih tehnoloških podjetjih, kot so Facebook, Google in Apple - nekoliko uporabna, a frustrirajoče neenakomerna kakovost in izvedba.

Resnično upam, da Facebook to ugotovi, saj ga vsak dan čedalje manj uporabljam, saj postaja vse manj pomemben za moje dejanski interesi in vsakdanje življenje. Morda sem danes v manjšini, vendar sumim, da se bo to spremenilo, če Facebook kmalu ne bo rešil teh težav z relevantnostjo in zanimanjem.

Opombe:

1. To je eden od razlogov, da se predstavniki Facebooka na konferencah pogosto zasujejo s toliko vprašanji - to je edini človeški stik, ki ga ima večina od nas kdaj koli s tem tehnološkim gigantom. [↩]