Ar skaitmeniniai algoritmai gali apsaugoti vaikus, tokius kaip Gabrielius Fernandezas, nuo prievartos?

Kiekvienais metais apie 7 milijonus vaikų pranešama vaiko gerovės institucijoms dėl galimo prievartos, tačiau kaip valdžios institucijos nustato, ar vaikams tai patinka Gabrielius Fernandezas yra rimtas pavojus ir jiems reikia įsikišti?





Daugelis vaikų gerovės institucijų remiasi darbuotojų, mokančių valdyti telefono linijas, kuriose pranešama apie įtariamą prievartą, rizikos vertinimu, tačiau kai kurie mano, kad gali būti ir geresnis būdas.

'Yra daugybė literatūros, kurią matėme, kad žmonės nėra ypač geri krištolo rutuliai', - Emily Putnam-Hornstein Vaikų duomenų tinklas ir USC docentas, sakė naujame „Neflix“ dokumentų serijoje „Gabrielio Fernandezo bandymai“. 'Vietoj to, ką mes sakome, išmokykime algoritmo, kuris nustatytų, kuris iš tų vaikų tinka tokiam profiliui, kuriame ilga lanko rizika rodytų būsimą sistemos dalyvavimą'.



Fernandezas buvo 8 metų berniukas, kurį sumušė ir kankino motina ir ji vaikinas , nepaisant jo mokytojo ir kitų asmenų pakartotinių raginimų valdžios institucijoms, pranešusioms apie įtariamą piktnaudžiavimą. Naujoje šešių dalių serijoje nagrinėjamas Fernandezo gyvenimas ir siaubinga mirtis, tačiau ji taip pat labiau apžvelgiama sisteminės problemos vaiko gerovės sistemoje, kuri galėjo būti svarbi.



Putnamas-Hornsteinas teigia, kad viena efektyvesnio vaikų, kuriems gresia didžiausia rizika, identifikavimo strategija galėtų būti naudoti specialiai sukurtus algoritmus, kurie naudoja administracinius įrašus ir duomenų gavybą, kad nustatytų kiekvieno vaiko rizikos balus.



'Mes iš tikrųjų turime apie 6 arba 7 milijonus vaikų, apie kuriuos pranešama apie įtariamą prievartą ar nepriežiūrą kiekvienais metais JAV, ir istoriškai tai, kad mes priėmėme kai kuriuos savo sprendimus dėl atrankos, remiasi tik tam tikrais žarnų vertinimais', - sakė ji. „Nuspėjamasis rizikos modeliavimas tik sako:„ Ne, ne, ne, laikykimės sistemingesnio ir empiriškesnio požiūrio į tai “.

Putnamas-Hornšteinas ir Rhema Vaithianathanas, grupės bendras direktorius Socialinių duomenų analizės centras , galėjo įgyvendinti šią idėją Allegheny apskrityje, Pensilvanijoje. Pora panaudojo tūkstančius vaikų netinkamo elgesio rekomendacijų, kad sukurtų algoritmą, kuris nustatytų rizikos balą kiekvienai šeimai, apie kurią pranešta apskrities vaiko apsaugos tarnyboms, Sveikatos žurnalistikos centras .



'Yra apytiksliai šimtas skirtingų veiksnių, į kuriuos atsižvelgiama', - dokumentiniame seriale paaiškino Alegheny apskrities žmogiškųjų paslaugų departamento direktorius Marcas Cherna. „Kai kurie pagrindiniai pavyzdžiai yra vaiko gerovės istorija, tėvų istorija, neabejotinai narkotikų vartojimas ir priklausomybė, psichinės šeimos ligos, kalėjimas ir įsitikinimai, ypač jei yra užpuolimų ir panašių dalykų“.

Dėl didelio skambučių skaičiaus vaiko gerovės institucijoms visoje šalyje pavesta nustatyti, ar šeima turėtų būti patikrinta tiriant, atsižvelgiant į skundą, ar būti patikrinta.

2015 m. 42% iš šalyje gautų 4 milijonų kaltinimų, susijusių su 7,2 milijonu vaikų, buvo patikrinti „The New York Times“ .

Tačiau vaikai ir toliau miršta nuo prievartos prieš vaikus.

Allegheny apskrityje naudojama sistema skirta tiksliau numatyti, kurios šeimos ateityje tikriausiai dalyvaus sistemoje, atlikdamos duomenų analizę.

„Tai, ką turi tikrintojai, yra daugybė duomenų“, - „The Times“ sakė Vaithianathanas. „Bet, gana sunku orientuotis ir žinoti, kurie veiksniai yra svarbiausi. Per vieną skambutį į C.Y.F. , galbūt turėsite du vaikus, įtariamą nusikaltimą padariusį asmenį, turėsite mamą, galbūt dar vieną suaugusį žmogų - visi šie žmonės sistemoje turės istoriją, kurią asmuo, tikrinantis skambutį, gali pradėti tirti. Tačiau žmogaus smegenys nėra tokios vikrios, kad galėtų panaudoti ir įprasminti visus duomenis “.

Allegheny šeimos atrankos įrankis naudoja statistikos metodą, vadinamą „duomenų gavyba“, norėdamas pažvelgti į istorinius modelius ir „pabandyti numatyti, kas gali atsitikti“ bet kuriuo konkrečiu atveju, sakė ji doku-serijoje.

Kiekvienam atvejui skiriamas rizikos balas, svyruojantis nuo vieno iki 20 - kiekvienas atvejis skirstomas į didelės, vidutinės ar mažos rizikos.

Pitsburgo vaikų ligoninės pediatrė Rachel Berger „The Times“ 2018 m. Sakė, kad nuspėjamoji analizė yra vertinga tuo, kad ji pašalina dalį subjektyvumo, kuris paprastai patenka į procesą.

'Visi šie vaikai gyvena chaose', - sakė ji. „Kaip C.Y.F. išsirinkti, kuriems kyla didžiausias pavojus, kai jie visi turi rizikos veiksnių? Negalite patikėti subjektyvumo kiekiu priimant vaiko apsaugos sprendimus. Štai kodėl man patinka nuspėjama analizė. Pagaliau tai suteikia objektyvumo ir mokslo sprendimams, kurie gali taip neįtikėtinai pakeisti gyvenimą “.

Tačiau buvo ir kritikų, kurie teigia, kad naudojant nuspėjamąją analizę remiamasi duomenimis, kurie jau gali būti šališki. Ankstesni tyrimai parodė, kad mažumos ir mažas pajamas gaunančios šeimos dažnai yra per daug atstovaujamos renkamuose duomenyse, o tai gali sukelti šališkumą prieš afroamerikiečių šeimas ar kitas mažumų šeimas, teigiama doku serijoje.

„Žmogaus šališkumas ir duomenų šališkumaseiti koja kojon', - sakė Kelly Capatosto, vyresnysis mokslo darbuotojas Kirwano rasės ir etninės priklausomybės tyrimo institute Ohajo valstijos universitete, praneša Sveikatos žurnalistikos centras. „Priimdami šiuos sprendimus mes galvojame apie stebėjimą ir kontaktą su sistema - su policija, vaikų gerovės agentūromis, visomis socialinę gerovę aptarnaujančiomis agentūromis. Tai bus per daug atstovaujama (mažas pajamas gaunančių ir mažumų) bendruomenėms. Tai nebūtinai nurodo, kur vyksta šie atvejai “.

Erin Dalton, Allegheny apskrities analizės, technologijų ir planavimo biuro direktoriaus pavaduotoja, pripažino, kad šališkumas yra įmanomas.

„Be abejo, mūsų sistemose yra šališkumas. Piktnaudžiavimą vaiku mes matome ir mūsų duomenys nėra faktinio prievartos prieš vaikus funkcija, tai priklauso nuo to, kam pranešama “, - sakė ji„ Netflix “serijoje.

Tačiau apskritis Sveikatos žurnalistikos centrui taip pat sakė, kad nustatė, kad gavus viešąsias išmokas sumažėja beveik visų jos šeimų rizikos balai.

TApygarda yra „labai jautri“ šiam susirūpinimui ir vykdo nuolatinę sistemos analizę, siekdama nustatyti, ar grupės buvo nukreiptos neproporcingai, Cherna taip pat sakė doku serijoje.

Alegheny County sistema priklauso pačiai apskričiai, tačiau buvo kritikuojama ir dėl kitų privačių patikrinimo sistemų.

kodėl gintarinė rožė neturi plaukų

Ilinojaus vaikų ir šeimos paslaugų departamentas 2018 m. Paskelbė, kad nebenaudos ne pelno organizacijos „Eckerd Connects“ ir pelno siekiančio partnerio „MindShare Technology“ sukurto nuspėjamosios analizės paketo iš dalies dėl to, kad bendrovė atsisakė pateikti išsamią informaciją apie kokius veiksnius buvo naudojami pagal jų formulę, rašo „The Times“.

Pranešama, kad sistema pradėjo skirti tūkstančius vaikų, kuriems reikia skubios apsaugos, suteikiant daugiau nei 4100 Ilinojaus vaikų mirties ar sužalojimo tikimybę 90 proc. „Chicago Tribune“ pranešė 2017 m.

Vis dėlto kiti vaikai, negavę aukštų rizikos balų, vis tiek galiausiai mirė nuo prievartos.

„Nuspėjama analizė (nebuvo) numatyti blogus atvejus“, - Vaikų ir šeimos paslaugų departamento direktorius Beverly „B.J.“ Walkeris pasakojo „Tribune“. - Aš nusprendžiau nesudaryti šios sutarties.

Danielis Hatcheris, knygos „ Skurdo pramonė: pažeidžiamiausių Amerikos piliečių išnaudojimas “Palygino kai kurias analitines sistemas su„ juodąja dėže “, sakydamas„ docu “serijoje, kad ne visada aišku, kaip jie priima sprendimus.

„Jie niekaip negali suprasti, kaip iš tikrųjų nusprendžia priežiūros lygį, kuris daro didžiulį poveikį asmeniui“, - sakė jis.

Putnamas-Hornsteinas pripažino, kad prognozinės analitinės sistemos negali nustatyti būsimo elgesio, tačiau ji mano, kad tai yra vertinga priemonė, leidžianti tikrintojams priimti labiau pagrįstus sprendimus dėl to, kuriems vaikams gali būti didžiausia rizika.

„Tikiuosi, kad šie modeliai padės mūsų sistemai skirti daugiau dėmesio palyginti nedidelei rekomendacijų daliai, kur rizika yra ypač didelė, ir mes galėsime prevenciškai skirti daugiau išteklių tiems vaikams ir šeimoms“, - sakė ji. Sveikatos žurnalistikos centrui. „Nenoriu, kad kas nors perparduotų nuspėjamą rizikos modeliavimą. Tai nėra krištolo rutulys. Tai neišspręs visų mūsų problemų. Tačiau jei tai leidžia mums priimti šiek tiek geresnius sprendimus ir nustatyti didelės rizikos atvejus, juos išskirti iš mažos rizikos atvejų ir atitinkamai koreguoti, tai gali būti svarbus šios srities įvykis “.

Populiarios Temos