Screenshot YouTube
Veiligere en betrouwbaardere autonome systemen, zoals zelfrijdende voertuigen, zijn mogelijk mogelijk dankzij een nieuw begrip van deep learning , een soort kunstmatige intelligentie (AI) die de manier nabootst waarop mensen informatie leren en verwerken.
Het onderzoek, uitgevoerd aan de Bar-Ilan Universiteit en gepubliceerd in het tijdschrift Physica A , benadrukt de wisselwerking tussen AI-vertrouwensniveaus en besluitvormingsprocessen.
“Het begrijpen van de betrouwbaarheidsniveaus van AI-systemen stelt ons in staat toepassingen te ontwikkelen die prioriteit geven aan veiligheid en betrouwbaarheid”, legt Ella Koresh , een studente die heeft bijgedragen aan het onderzoek, aan ISRAEL21c uit.
“In de context van autonome voertuigen bijvoorbeeld , wanneer het vertrouwen in het identificeren van een verkeersbord uitzonderlijk hoog is, kan het systeem autonoom beslissingen nemen. In scenario’s waarin het vertrouwensniveau lager is, vraagt het systeem echter om menselijk ingrijpen, waardoor een voorzichtige en geïnformeerde besluitvorming wordt gegarandeerd.”
Volgens de onderzoekers kunnen “deep learning-architecturen hogere betrouwbaarheidsniveaus bereiken voor een substantieel deel van de input, terwijl het algehele gemiddelde vertrouwen behouden blijft.”
Simpel gezegd: deep learning AI kan over veel dingen zekerder zijn zonder dat dit ten koste gaat van de algehele betrouwbaarheid.
Het vermogen om het vertrouwensniveau van AI-systemen te vergroten vormt een nieuwe maatstaf voor AI-prestaties en veiligheid en zou toepasbaar kunnen zijn op een breed spectrum van terreinen, van AI-gestuurd schrijven en beeldclassificatie tot cruciale besluitvormingsprocessen in de gezondheidszorg en autonome voertuigen.
Naast Koresh is de studie geschreven door Yuval Meir, Ofek Tevet, Yarden Tzach en prof. Ido Kanter van de afdeling natuurkunde van Bar-Ilan en het hersenonderzoekscentrum van de universiteit.
