A mesterséges intelligencia nem csupán az ipart vagy a közigazgatást alakítja át rohamos léptékben, hanem észrevétlenül beleszőtte magát a mindennapi kommunikációnkba, a tudásszerzésünkbe és az esélyegyenlőség keretei közé is.

A digitális térben burjánzó nagy nyelvi modellek és generatív algoritmusok azonban nem egy steril, pártatlan valóságot tükröznek vissza, hanem emberi kultúránk legmélyebb mintázatait és előítéleteit is hordozzák magukban. Amikor a gépek meghatározzák, hogy ki és milyen formában jelenhet meg az információs szférában, alapvető etikai kérdéssé válik, hogy vajon kinek a története kap helyet a digitális kánonban, és kik szorulnak az algoritmikus láthatatlanságba vagy a félreértelmezések fogságába.

A rejtett normakövetés és az épelvűség csapdája: mi az „ableizmus”?

Ahhoz, hogy megértsük a mesterséges intelligencia és a fogyatékossággal élő emberek kapcsolatát, érdemes közelebbről megvizsgálni az ableizmus, vagyis a magyarul leginkább épelvűségként fordított társadalmi jelenséget.

Az ableizmus az a gyakran észrevétlen előítélet-rendszer, amely az úgynevezett „ép” vagy „átlagos” testet és elmét tekinti az egyedül normális, kívánatos alapállapotnak, míg a fogyatékosságot egyéni biológiai hiányosságként, elhárítandó problémaként értelmezi. A gyakorlatban ez nem feltétlenül nyílt elutasításban nyilvánul meg.

Ableista hozzáállás az is, amikor egy munkaadó eleve feltételezi, hogy egy látássérült jelentkező kevésbé lesz hatékony, de az is, amikor a társadalom egy kerekesszékes embert kizárólag szívszorító inspirációs forrásként vagy a nehézségeken felülkerekedő „szuperhősként” hajlandó láttatni, elfedve a valódi akadálymentesítés hiányát.
A technológia világában ez a szemlélet úgy jelenik meg, hogy a technológia célja a fogyatékos ember „kijavítása”, és az ép normákhoz való hozzáigazítása, a környezeti és társadalmi korlátok lebontása helyett.

Amikor a statisztikai átlag elnyeli a sokszínűséget

A modern nyelvi modellek matematikai és statisztikai alapon működnek: a tanításukhoz használt óriási adatmennyiségből a leggyakrabban előforduló mintázatokat tanulják meg és sűrítik válaszokká. Ez a működési elv azonban súlyos feszültséget teremt, hiszen a fogyatékossággal élő emberek csoportja a társadalom legváltozatosabb közössége, amelynek tapasztalatai, nyelvi formái és igényei rendkívül sokfélék. A gépi tanulás logikája ebből adódóan hajlamos elsimítani az egyéni különbségeket és az átlaghoz igazítani mindent. Ennek következtében kialakul egyfajta algoritmikus „monokultúra”, ahol a ritkább kognitív vagy kommunikációs minták egyszerűen kiszorulnak a képből.

A helyzetet tovább nehezíti, hogy a modellek oktatására használt internetes tartalmak túlnyomó többsége eleve nem akadálymentes felületekről származik, így az algoritmusok már a tanulási fázisban magukba szívják a digitális tér meglévő kirekesztési mechanizmusait.

A láthatatlan szűrők és a gyakorlati hátrányok

A statisztikai torzítások nem maradnak meg az elmélet szintjén, hanem a mindennapi életben is érezhető hátrányokat okoznak. Amikor a mesterséges intelligenciát automatizált állásinterjú-szűrőként vagy önéletrajz-értékelőként használják, a rendszerek gyakran szisztematikusan alacsonyabb pontszámot adnak azoknak a pályázóknak, akik nyíltan jelzik fogyatékosságukat, még teljesen azonos szakképzettség és tapasztalat mellett is. A gépi tanulási modellek így észrevétlenül, algoritmusokba kódolva terjesztik ki a meglévő munkaerőpiaci diszkriminációt.

A (közel)jövő útja: a fogyatékosság-inkluzív MI-fejlesztés alappillérei

A technológiai kirekesztés felszámolásához a szakértők szerint nem elegendőek a puszta utólagos algoritmikus korrekciók. A valóban igazságos és akadálymentes digitális jövő megteremtéséhez a fejlesztési folyamatok teljes újragondolására van szükség, amely öt alapvető pillérre épül.

Elsőként elengedhetetlen a fogyatékossággal élő személyek intézményesített, aktív részvételének biztosítása a teljes tervezési és ellenőrzési folyamatban, megvalósítva a részvételi auditálást. Másodszor, a nagy nyelvi modellek teljesítményének és méltányosságának mérésekor rendszerszinten kell integrálni a kifejezetten fogyatékosság-érzékeny értékelési mutatókat. Harmadik pillérként a fejlesztőknek tudatosan bővíteniük kell az adatbázisokat, minél több többnyelvű és akadálymentességi szempontból validált adathalmazt bevonva a gépi tanulásba. Negyedszer, a fogyatékosságtudományi és esélyegyenlőségi szempontokat közvetlenül be kell építeni a nemzetközi és hazai MI-etikai irányelvekbe, valamint a jogi szabályozási keretekbe. Végül, de nem utolsósorban, átfogó képzési kezdeményezéseket kell indítani a társadalmi MI-műveltség fejlesztésére, különös figyelmet fordítva a kognitív kockázatokra, a túlzott technológiai függőségre és az algoritmusok kritikus szemléletére.

A valódi digitális inklúzió kulcsa tehát abban rejlik, hogy a fogyatékossággal élő emberek ne csupán passzív felhasználókként vagy védendő csoportként legyenek számon tartva, hanem a fejlesztés legelső szakaszától kezdve aktív alkotóként és kritikus tervezőként vonják be őket a technológiai jövő – ez esetben a mesterséges intelligencia – megformálásába.

—-

(A cikk Borsodi Zsófia, Szenczi Beáta, Szekeres Ágota, Virányi Anita „Semmit rólunk – algoritmusok nélkül?” című tanulmánya nyomán készült)

Illusztráció: AI generált tartalom.