Biomagazin

Prethodne godine, više od milion Amerikanaca imalo je pokušaj samoubistva, a njih 47 000 je u tome i uspelo. Mnogi prethodno ne pokazuju nikakve naznake, što čini samoubistvo veoma teškim za predviđanje, a sam čin porodicu ostavlja zatečenu i očajnu zbog nemogućnosti da bilo šta promene pre nego što je došlo do kobnog ishoda.

Zdravstveni radnici i tehnološke kompanije, uključujući Departman za pitanja veterana i Fejsbuk, sve više primenjuju veštečku intelignciju na problem predviđanja samoubistva. Softver za mašinsko učenje, koji se ističe u prepoznavanju šablona, može pretraživati zdravstvene evidencije i onlajn postove u potrazi za znacima ponašanja povezanim sa samoubistvom i alarmirati psihologe. Potencijal ovog poduhvata je ogroman, budući da čak i najmanji porast verovatnoće predviđanja može spasiti hiljadu života svake godine.

Ovo istraživanje napreduje u dva pravca: jedan akademnsko-medicinski i jedan koji naginje ka reklami. Preko programa pod nazivom reach vet, Departman za pitanja veterana koristi veštačku inteligenciju za analizu medicinskih zapisa radi identifikacije veterana sa visokim rizikom za samopovređivanje. Sistem radi procenu faktora kao što su prethodni pokušaji samoubistva pacijenata, medicinske dijagnoze i trenutne lekove. Prvi rezultati su ohrabrujući, ali napredak unutar i izvan Departmana je nužno usporen potrebom da se utvrdi da li jedno ovakvo istraživanje nije u sukobu sa zdravstvenim zakonima i etičkim standardima, kao i potrebom za efikasnošću svakog koraka.

U Silikonskoj dolini je potpuno drugačiji slučaj: firme izvan oblasti zdravstva koriste veštačku inteligenciju kako bi predvideli samoubistvo milijarda potrošača i tretiraju svoje metode kao vlasničke trgovačke tajne. Ovi napori privatnog sektora su potpuno neregulisani jer potencijalno dovode u opasnost privatnost ljudi, njihovu bezbednost i autonomiju.

Fejsbuk je najveća i najupadljivija kompanija koja ima udela u predviđanju samoubistva. Nakon što je kompanija 2016. uvela lajv striming, desetine korisnika na platformi emituju pokušaje samoubistva u realnom vremenu. Kao odgovor, 16. februara 2017. godine, Mark Zuckerberg je rekao da je Fejsbuk eksperimentisao sa predviđanjem samoubistva zasnovanim na veštačkoj inteligenciji. Njegov softver analizira postove i poruke korisnika i traži naznake suicidnog ponašanja – reč “zbogom” kojoj sledi pitanje “Da li si dobro?” ili “Molim te ne radi ovo” – i procenjuje nivo rizika. Slučajevi procenjeni kao visokorizični se prosleđuju operacionom timu koji ih pregledaju i obaveštavaju policiju. Fejsbuk takođe pomaže u određivanju lokacije korisnika, kako bi on mogao biti brzo pronađen. U proteklih dvanaest meseci, kompanija je inicirala 3500 ovih “velnes provera” i deset puta dnevno obaveštavala policiju o tome, govori Antigone Davis, upravnik globalne bezbednosti na Fejsbuku, u nedavnom intervjuu.

U imejl prepisci, predstavnica Fejsbuka je rekla da njihov tim uključuje ljude sa iskustvom u radu na sprovođenju zakona, linijama za samoubistvo i intervencijama u kriznim situacijama. Ipak, ona je odbila da kaže koju tačno vrstu licence njihovi zaposleni imaju, koliko su sati treninga prošli, kao i koji su kriterijumi da odlučivanje da li kontaktirati policiju ili ne.

Zapisi Fejsbuka o čuvanju osetljivih podataka trebalo bi da izazove brigu za to kako kompanije skladište i koriste podatke o predviđanju samoubistava. Britanski parlamentarni odbor je prethodnog meseca objavio dokumente koji pokazuju da je Fejsbuk koristio podatke o klijentima kako bi učinio uslugu partnerskim kompanijama i kaznio rivale.  U avgustu, Ministarstvo za urbanizam i stambena pitanja podigao je prijavu protiv Fejsbuka zbog davanja zemljoposednicima i prodavcima kuća alate koji im mogu omogućiti da spreče građane sa invaliditetom, pripadnike manjinskih grupa i nekih verskih zajednica da vide određene oglase. Još direktnije, 2017. godine fejsbuk je saopštio oglašivačima reklama da može identifikovati tinejdžere koji se osećaju “poraženo”, “bezvredno” i “beskorisno”, verovatno kako bi postali meta reklama.

Prethodnog meseca, na svetlost je izašla informacija da je Fejsbuk sa kompanijama kao što su Apple, Netflix i Amazon podelio daleko više informacija nego što je predviđeno, u nekim slučajevima im čak dozvoljavajući da čitaju privatne poruke korisnika. Fejsbuk ističe da nikada ne širi podatke o predviđanju samoubistava sa oglašivačima reklama. Ipak, javnost mora prihvatiti reč Fejsbuka kao istinitu u vreme kada poverenje u samu kompaniju opada.

I neki manji programeri su takođe napravili prve korake u ovom smeru. Objective Zero predlaže korišćenje podataka o lokaciji kako bi se procenio rizik kod veterana. Na primer, ako bi vetarani koji su inače fizički aktivni prestali da idu u teretanu, to bi bio potencijalni znak da se njihova depresija pogoršava.

U interesu javnosti je da spreči profitiranje od predviđanja samoubistva. Međutim, brokeri i platforme društvenih medija mogu tvrditi da je razmena podataka sa trećom stranom zaštićena u skladu sa Prvim Amandmanom i njima je pružena podrška Vrhovnog suda. U slučaju Sorell iz 2011. godine, sudije su odbacile zakon kojim se ograničava prodaja evidencija koje sadrže podatke o lekovima koje lekari prepisuju. U ovom slučaju imena i druge identifikacione informacije su uklonjene iz evidencije apoteka. Kompanije koje predviđaju samoubistva takođe mogu ukloniti lične informacije pre nego što podele podatke, ali de-identifikacija je nesavršena nauka i često može biti neuspešna.

Trebalo bi da postoji veoma visoka prepreka za slanje policije u domove korisnika – praksa koju je Fejsbuk počeo da sprovodi. Četvrti Amandman štiti Amerikance od pretresa bez naloga, ali policija može ući u domove bez naloga ako opravdano veruju kako je to potrebno da bi se sprečile fizičke povrede, uključujući i samopovređivanje. Kada uđu, policajci mogu tražiti i oduzimati predmete koji nisu povezani sa rizikom od samoubistva. Sve dok su algoritmi predviđanja neprovidni, ne možemo uraditi pravu analizu štete i koirsti.

Ovi podaci se takođe mogu koristiti za uočavanje pokušaja samoubistava, što je u nekim državama i dalje kažnjivo. Fejsbuk je pre godinu dana proširio svoj softver za predviđanje samoubistava izvan granica Sjedinjenih Američkih Država i iznosi da su njegove ambicije globalne. (Dosadašnji izuzetak je Evropska Unija, gde strogi zakoni o privatnosti zahtevaju veću transparentnost i odgovornost.) Ipak, u zemljama kao što su Malezija, Mijanmar, Brunej i Singapur, pokušaji samoubistva kažnjavaju se novčanom i zatvorskom kaznom do godinu dana. Predstavnica Fejsbuka je odbila da kaže procenat “velnes provera” koje se odvijaju izvan SAD-a i ostavila otvorenu mogućnost da se one dese čak i u zemljama gde je pokušaj samoubistva nezakonit.

Pored toga što policija često nije adekvatno obučena da se nosi sa pokušajima samoubistava ili mentalno obolelim ljudima, i drugi elementi pokušava prevencije samoubistva imaju svoje negativne aspekte. Hospitalizacija ljudi protiv njihove volje je još jedno oružje kojim se policija može služiti u slučajevima sa suicidnim osobama. Ipak, istraživanja govore da se ljudi po puštanju iz mentalne bolnice nalaze u povećanom riziku od samoubistva. Ljudi kojima fali socijalna podrška i pristup informacijama o mentalnom zdravlju izvan bolnice su delimično ranjivi u ovakvim kritičnim momentima.

Sudovi i zakonodavci bi mogli da uvedu posebne obaveze kompanijama koje predviđaju samoubistva. To je veoma moćan tehnički koncept. Od lekara se zahteva da deluju u najboljem mogućem interesu pacijenata, što uključuje i zaštitu njihovih informacija. Profesor prava Džek Balkin sa Jejla i Džonatan Citrejn sa Harvarda predložili su upotrebu društvenih mreža kao izvore informacija, što bi pokrilo mnogo veće polje od medicinskih podataka. Svakako, kada Fejsbuk koristi informacije svojih korisnika, on se mora pridržavati istog kodeksa kao lekari.

Fejsbuk gubi poverenje korisnika i vlada širom sveta i ako se projekat predviđanja suicida pokaže neuspešnim, ugled kompanije će značajno opasti. Pretpostavimo da su predviđanja pouzdana i precizna. U tom slučaju nema nikakvog razloga da Fejsbuk krije svoje algoritme od medicinskih udruženja, koja takođe naporno rade na predviđanju i prevenciji samoubistava. Ipak, kompanije iz finansijskih interesa štite svoje intelektualno vlasništvo. Ipak, u osetljivim slučajevima poput samoubistva, zaštita IP adrese ne bi trebalo da bude važnija od opšteg dobra koje se može dostići transparentnošću.

 

Priredila: Milica Manojlović

Preuzeto sa: The Washington Post