Q:
Kodėl DARPA tiria „paaiškinamą PG“?
A:Apskritai paaiškinamas dirbtinis intelektas tampa ypač svarbia moderniausių duomenų moksle darbų dalimi. Tai padeda vadovauti žmonėms būdingų nepastovių ir dinamiškų technologijų valdymui - paaiškinama AI padeda atsakyti į daugelį mūsų kolektyvo klausimų, kaip veiks dirbtinis intelektas.
Norėdami suprasti paaiškinamą PG, jis padeda suprasti, kaip atrodo „įprastas PG“. Tradiciškai, kai AI pradeda formuotis, tipinį projektą sudaro išgalvotos naujos programinės įrangos galimybės, paslėptos algoritmuose ir mokymo rinkiniuose bei linijiniame kode, tai yra „bloko dėžutė“ vartotojams. Jie žino, kad tai veikia - tiesiog tiksliai nežino, kaip.
Tai gali sukelti „pasitikėjimo klausimus“, kai vartotojai gali suabejoti pagrindu, kuriuo remdamiesi technologija priima sprendimus. Štai ką turėtų būti siekiama paaiškinti PG: Paaiškinamuose PG projektuose yra papildoma infrastruktūra, siekiant parodyti galutiniams vartotojams PĮ ketinimus ir struktūrą - kodėl ji daro tai, ką daro.
Amžiuje, kai geriausi inovatoriai, tokie kaip Billas Gatesas ir Elonas Muskas, išreiškia susirūpinimą dėl to, kaip veiks dirbtinis intelektas, paaiškinama AI atrodo nepaprastai patraukli. Ekspertai teigia, kad geras paaiškinamas PG gali padėti galutiniams vartotojams suprasti, kodėl technologijos daro tai, ką daro, padidinti pasitikėjimą ir taip pat palengvinti šių technologijų naudojimą ir naudojimą.
Vis dėlto DARPA atskirai paaiškina, kodėl ji domisi naujaisiais projektais. Puslapis DARPA rodo, kad Gynybos departamentas tikisi dirbtinio intelekto programų torrento ir tam tikro chaoso.
„Tęsiant pažangą žadama sukurti autonomines sistemas, kurios suvoks, išmoks, apsispręs ir veiks savarankiškai“, - rašo Davidas Gunningas. „Tačiau šių sistemų efektyvumą riboja dabartinis mašinos nesugebėjimas paaiškinti žmonėms savo sprendimų ir veiksmų. … Paaiškinamas PG - ypač aiškinamas mašinų mokymasis - bus būtinas, jei būsimi kariai suprato, tinkamai pasitiki ir veiksmingai valdys besiformuojančią dirbtinai intelektualių mašinų partnerių kartą. “
Gunningo internetiniame rašinyje teigiama, kad aiškinamos PG sistemos padės „pagrįsti“ technologijas, parodyti jų stipriąsias ir silpnąsias puses ir padaryti naudojimo atvejus skaidresnius. Puslapio grafikoje parodyta, kaip tiesioginį dirbtinio intelekto funkcionalumą iš treniruočių duomenų galima papildyti vadinamuoju paaiškinamuoju modeliu ir paaiškinamąja sąsaja, kuri padės vartotojui atsakyti į klausimus. Be to, „Gunning“ rodo, kad paaiškinamoje PG programoje bus dvi pagrindinės sritys - viena būtų sijoti per daugialypės terpės duomenis, kad surastų tai, kas naudinga vartotojams, o antrasis dėmesys būtų imamas sprendimų priėmimo procesams proceso palaikymas.
DARPA tikisi pateikti „priemonių rinkinį“, kuris gali padėti kurti aiškinamas AI sistemas ateityje.
