Fujitsu en BGU starten gezamenlijk cybersecuritycentrum
Israëlisch team van het Fujitsu Cybersecurity Center of Excellence. Foto BGU/Shay Shmueli
Fujitsu Limited en BGN Technologies, Ben Gurion's Universiteit van de Negev bedrijf voor technologieoverdracht, hebben een driejarige uitgebreide gezamenlijke onderzoek overeenkomst ondertekend om technologieën en oplossingen te ontwikkelen die bijdragen aan de realisatie van veilige, praktijkgerichte toepassingen van AI en machine learning-technologieën.
Het nieuw opgerichte "Fujitsu Cybersecurity Center of Excellence in Israel" (Fujitsu CCoE IL) biedt onderdak aan een team van ongeveer 20 onderzoekers, waaronder prof. Yuval Elovici en prof. Asaf Shabtai. Het lab wordt geleid door prof. Elovici, afdeling Information Systems Engineering, en hoofd van BGU's Cyber Security Research Center in de BGU cyberlabs in het geavanceerde technologiepark op de universiteitscampus in Israël.
Met dit initiatief willen Fujitsu en BGU gezamenlijk onderzoek en ontwikkeling versnellen naar technologieën die oplossingen bieden voor bedreigingen voor AI-modellen en machine learning, en de betrouwbaarheid en beveiliging van op AI gebaseerde systemen en software die een steeds grotere impact hebben op ons dagelijks leven, verbeteren.
Vivek Mahajan, Chief Technology Officer van Fujitsu Limited: "We zijn verheugd om samen te werken met de Ben-Gurion University, die beschikt over softwareontwikkelingscapaciteiten van wereldklasse op het gebied van beveiliging. Ik ben ervan overtuigd dat de oprichting van de Fujitsu CCoE IL resultaten zal opleveren een verscheidenheid aan veelbelovende nieuwe beveiligingstechnologieën voor AI, en ik kijk uit naar een vruchtbare samenwerking met Ben-Gurion University terwijl we samenwerken om enkele van de uitdagingen waarmee onze steeds meer gedigitaliseerde samenleving wordt geconfronteerd, op te lossen."
Prof. Yuval Elovici zei: "We zijn verheugd om onze samenwerking met Fujitsu, een toonaangevend bedrijf op het gebied van informatie- en communicatietechnologie, te versterken. Samen kunnen we systemen die gebaseerd zijn op AI robuuster maken tegen aanvallen die zich richten op de AI-component."
"Deze gezamenlijke strategische onderzoekssamenwerking is een bewijs van het leiderschap van Ben-Gurion University op het gebied van cyberbeveiliging", voegt Josh Peleg, CEO van BGN Technologies, toe. "De meerjarige samenwerking zal de AI-beveiliging verbeteren en helpen een veiligere wereld te creëren, terwijl de positie van de universiteit als wereldspeler op het gebied van AI, machine learning en cyberbeveiliging wordt versterkt."
AI- en machine learning-technologieën spelen een steeds grotere rol in de samenleving, met veelbelovende toepassingen die in opkomst zijn die ons dagelijks leven in toenemende mate zullen beïnvloeden, waaronder de verbetering van de openbare veiligheid door analyse van menselijk gedrag in bewakingsvideogegevens, productkwaliteitscontrole door de detectie van afwijkingen, productaanbevelingen, evenals voor de verbetering van autonoom rijden.
Met de groei en uitbreiding van deze technologieën is de noodzaak om de AI-beveiliging te verbeteren echter een dringende prioriteit. Vijandige entiteiten gebruiken steeds geavanceerdere technieken om kritieke infrastructuur en systemen te bedreigen door vertrouwelijke informatie in AI-datasets te stelen en te lekken. Het toevoegen van speciale geluiden aan videogegevens kan er bijvoorbeeld toe leiden dat de AI mensen verkeerd identificeert of acties verkeerd detecteert. Fujitsu CCoE IL zal deze problemen aanpakken door middel van onderzoek naar AI-beveiliging om dergelijke aanvallen te detecteren, te beschermen tegen vijandige toegang tot AI-systemen en om de modellen robuuster te maken tegen aanvallen.
Als onderdeel van hun nieuwe samenwerking zullen Fujitsu en BGU zich richten op onderzoek dat deze bedreigingen het hoofd biedt om AI-technologieën veiliger en betrouwbaarder te maken. Voor een van de eerste onderzoeksprojecten van het Centrum zullen onderzoekers van Fujitsu en Ben-Gurion University een AI-model (Out of Distribution-detectiemodel [1]) toepassen dat nieuwe, onbekende soorten bedreigingen kan detecteren, zoals aanvallen op drones en fraude in netwerkcommunicatie en het ontwikkelen van technologieën die op passende wijze kunnen omgaan met de snel evoluerende aanvalsmethoden. Het Out of Distribution-detectiemodel zal bovendien worden toegepast om productstoringen te detecteren in gevallen waarin onverwachte gegevens opzettelijk of per ongeluk verschijnen.