Hoogrisico AI-systemen en ethiek De AI Act maakt onderscheid tussen verschillende soorten AI-toepassingen, waarbij bepaalde systemen als ‘hoogrisico’ worden aangemerkt. Hoogrisico AI-systemen zijn toepassingen die een directe impact kunnen hebben op de veiligheid of fundamentele rechten van individuen, zoals in de gezondheidszorg, rechts­hand­having of infrastructuur. Van Dijk licht toe: ‘De AI Act heeft als doel ervoor te zorgen dat deze systemen veilig zijn en de rechten van mensen respecteren. Organisaties die AI ontwikkelen, wordt duidelijk gemaakt aan welke strenge standaarden zij moeten voldoen.’ Deze standaarden worden door de Europese Commissie verder uitgewerkt in technische voorschriften en richtlijnen, aldus Van Dijk: ‘De toezichthouders zullen hierop toezien.’ Volgens Van Dijk is educatie onmisbaar voor ambtenaren die werken met AI. ‘Niemand hoeft alles te weten van de AI Act,’ stelt ze gerust. ‘Maar het is belangrijk dat je de relevante aspecten van AI-gebruik kent. Als je met AI werkt, moet je goed inzicht hebben in de eisen, onzekerheden en de impact.’ Ze benadrukt dat ambtenaren zich moeten richten op die AI-systemen die specifiek relevant zijn voor hun werk. Ze verwacht dat opleidingen en trainingen op maat gemaakt zullen worden, afhankelijk van de sector en toepassing. ‘Er zal een basis­niveau van kennis nodig zijn voor functies zoals compliance officers, AI-experts en AVG-specialisten.’