Uitlegbare AI voor deepfake detectie
Er is steeds meer aandacht voor zogenoemde deepfakes. Dat zijn video's, foto's, spraakberichten en teksten die echt lijken, maar dat niet zijn. Deze nepbeelden worden steeds realistischer en makkelijker om te maken. Onderzoekers van het University College London noemen deepfakes de gevaarlijkste toepassing van AI als het gaat om criminaliteit en terrorisme.
Om de negatieve toepassingen van deepfakes tegen te houden, wil DuckDuckGoose een AI-systeem ontwikkelen dat inzichtelijk en uitlegbaar is. Dat laatste betekent dat de beslissingen van de AI transparant zijn voor menselijke experts. Dat draagt bij aan het inzichtelijk opsporen van deepfakebeelden.
Call: Mensgerichte AI voor de publieke sector - Fase 2, ontwikkelen prototype
Het doel van deze SBIR-innovatiecompetitie is het ontwikkelen en testen van mensgerichte AI-oplossingen voor maatschappelijke uitdagingen van de publieke sector binnen de volgende 3 thema's: Het functioneren van de democratie en de relatie tussen burgers en overheid. Mogelijkheid tot het verbeteren van de participatie aan de samenleving. Het voldoen van (de implementatie van) AI-systemen aan mensenrechten. In november 2020 is het Manifest Mensgerichte Artificiële intelligentie gepubliceerd. Dit manifest vormt de basis van deze SBIR-oproep, samen met de Tweede Kamerbrief AI publieke waarden en mensenrechten. De beoogde innovatie moet voldoen aan de in het manifest gestelde eisen en verwachtingen.