Den hurtige udvikling af kunstig intelligens (AI) ændrer måden, vi lever og arbejder på, med stadig mere sofistikerede algoritmer og neurale netværk, der driver alt fra diagnostik i sundhedssektoren til ChatGPT.
Men nogle førende AI-forskere advarer om, at jo mere avancerede disse systemer bliver, jo mindre vil vi forstå, hvordan de træffer beslutninger, hvilket fører til potentielle etiske bekymringer og ødelæggende konsekvenser.
En af hovedfaktorene bag denne bekymring er konceptet med “black box”-algoritmer, som er AI-systemer, der træffer beslutninger uden nogen klar forklaring på, hvordan de nåede frem til disse beslutninger. Efterhånden som disse systemer bliver mere komplekse og bruger deep learning-teknikker, bliver det sværere at fortolke ræsonnementet bag deres handlinger – selv for deres skabere.
Dr. Stuart Russell, en førende AI-forsker og professor i datalogi ved University of California, Berkeley, advarer om, at denne mangel på forståelse kan medføre katastrofale konsekvenser. Han har foreslået en ny tilgang til at designe AI-systemer, som han kalder “værdi afstemning”, hvor AI’ens mål er eksplicit afstemt med menneskelige værdier. Uden en sådan tilpasning, hævder Dr. Russell, kunne avanceret kunstig intelligens blive “det modsatte værktøj”, hvilket potentielt kan forårsage skade på mennesker og miljøet.
Andre eksperter gentager disse bekymringer. Professor Joanna Bryson, datalog ved University of Bath, hævder, at efterhånden som AI-systemer bliver mere avancerede, kan de udvikle skævheder eller fungere på måder, som vi ikke helt forstår. Dette kan føre til utilsigtede konsekvenser, der skader marginaliserede samfund, forstærker diskrimination eller skaber uforudsete risici.
For at løse disse bekymringer undersøger forskere nye tilgange til “forklarlig AI”, som søger at gøre beslutningsprocesserne i AI-systemer mere gennemsigtige og forståelige. For eksempel har et team af forskere fra MIT og Harvard udviklet en algoritme, der kan identificere de specifikke neuroner i et neuralt netværk, som er ansvarlige for en bestemt beslutning. Denne form for tilgang kan hjælpe forskere og udviklere med bedre at forstå, hvordan AI-systemer fungerer, og potentielt identificere og adressere eventuelle skævheder eller utilsigtede konsekvenser.
Eksperter advarer dog om, at disse bestræbelser måske ikke er nok til at løse de underliggende bekymringer om den stigende kompleksitet af AI-systemer. Som Dr. Russell bemærker, “Vanskeligheden ved at forklare komplekse systemer er, at forklaringerne i sig selv kan være komplekse.” Det betyder, at selv med den bedste indsats for at skabe forklarlig AI, kan der stadig være aspekter af disse systemer, der er uigennemsigtige eller svære at fortolke.
På trods af disse bekymringer forbliver mange eksperter dog også optimistiske med hensyn til de potentielle fordele ved avanceret kunstig intelligens. For eksempel undersøger nogle forskere brugen af kunstig intelligens til at udvikle mere effektive behandlinger for sygdomme eller til at hjælpe med at løse globale udfordringer såsom klimaændringer. De advarer dog om, at det er vigtigt at sikre, at disse systemer er designet og implementeret på en måde, der stemmer overens med menneskelige værdier og dermed undgår utilsigtede konsekvenser.
Den stigende kompleksitet af AI-systemer betyder, at jo større indflydelse kunstig intelligens kommer til at få, jo mindre vil vi forstå hvordan eller hvorfor. Efterhånden som AI bliver mere integreret i vores liv, er det ifølge eksperter vigtigt at sikre, at kunstig intelligens er designet og implementeret på en måde, der stemmer overens med menneskelige værdier og vi dermed kan undgå utilsigtede konsekvenser.
Relaterede artikler:
Hvad er farerne og fordelene ved kunstig intelligens hvis man spørger ChatGPT selv?
Kunstig intelligens og kvantecomputere er et våbenkapløb med tiden
Kunstig intelligens skaber på rekordtid ny medicin mod tvangslidelsen OCD
