AI helpt zwakke plek te vinden in Leidse encryptiemethode
cryptografie
Een AI-model heeft geholpen een kwetsbaarheid te ontdekken in HAWK, een experimenteel systeem dat digitale communicatie moet beschermen. Onderzoekers van de Universiteit Leiden en Centrum Wiskunde & Informatica hebben geholpen HAWK te ontwikkelen. De ontdekking laat zien welke rol AI kan spelen in de zoektocht naar veilige cryptografie voor het tijdperk van de quantumcomputer.
Het Amerikaanse technologiebedrijf Anthropic meldde dat diens AI-systeem Claude heeft geholpen bij de aanval op HAWK. Dit experimentele systeem voor digitale handtekeningen controleert de echtheid van digitale informatie en is zo ontworpen dat het ook bestand is tegen toekomstige quantumcomputers.
Een internationaal team ontwikkelde HAWK, met onder hen de Leidse onderzoeker Leo Ducas. Hij is verbonden aan het Centrum Wiskunde & Informatica (CWI) en is daarnaast hoogleraar mathematische cryptologie aan de Universiteit Leiden.
‘We wilden een volledig nieuwe richting verkennen binnen roostergebaseerde cryptografie’, legt Ducas uit (zie kader). ‘HAWK heeft ervoor gezorgd dat onderzoekers dat idee serieus zijn gaan testen.’
Wat is cryptografie gebaseerd op roosters?
Roostergebaseerde cryptografie beschermt digitale informatie met wiskundige puzzels die naar verwachting ook voor een quantumcomputer moeilijk op te lossen zijn. Deze puzzels zijn gebaseerd op zogenoemde roosters: regelmatige netwerken van punten in een ruimte met zeer veel dimensies.
HAWK gebruikte een nieuwe aanpak. In plaats van uit te gaan van willekeurige wiskundige structuren, begon het systeem met een sterk gestructureerd rooster dat vervolgens werd verborgen door een wiskundige bewerking. De veiligheid hing af van de moeilijkheid om te herkennen dat twee ingewikkelde wiskundige structuren in feite hetzelfde zijn, maar op een andere manier worden weergegeven.
Het onderzoek heeft een duidelijke Leidse link. Ducas ontwikkelde HAWK samen met onder anderen de voormalig Leidse student Wessel van Woerden. Later onderzochten de Leidse en CWI-cryptografen Daan van Gent en Ludo Pulles mogelijke aanvallen op het systeem.
Terugkijkend denkt hij dat er nog maar één kleine stap ontbrak.
AI vond het ontbrekende puzzelstukje
Het testen van mogelijke aanvallen is een normaal onderdeel van cryptografisch onderzoek. Hoe beter een systeem zulke aanvallen doorstaat, hoe groter het vertrouwen in de veiligheid ervan. Van Gent had samen met Pulles al belangrijke stappen gezet richting een aanval op HAWK. Terugkijkend denkt hij dat er nog maar één kleine stap ontbrak. ‘Die laatste stap is nu gevonden met hulp van AI.’
Geen crisis voor de cryptografie
De aanval leidde ertoe dat het onderzoeksteam HAWK terugtrok uit een internationaal standaardisatietraject. Volgens Ducas betekent dit niet dat HAWK volledig is gekraakt. De aanval liet vooral zien dat dit ontwerp van HAWK minder veilig was dan gehoopt, niet dat de onderliggende wiskunde tekortschiet. ‘Drie of vier eerdere aanvallen van andere onderzoekers kwamen al heel dicht in de buurt’, zegt Ducas. ‘Deze keer is een aanval daadwerkelijk geslaagd.’ Hoewel HAWK nog steeds op een veilige manier kan worden gebruikt, is het daardoor niet efficiënt genoeg om concurrerend te zijn.
De onderzoekers hadden het ontwerp bewust zo efficiënt mogelijk gemaakt, terwijl ze wisten dat daar risico’s aan verbonden waren. ‘Vergeleken met de methoden die inmiddels zijn gestandaardiseerd, zijn we één stap te ver gegaan’, aldus Ducas.
‘Het moeilijkste is juist het vinden van de juiste richting.’
Wat AI wel en niet kan
Ducas en Van Gent zijn onder de indruk van Claude, maar waarschuwen voor overdreven verwachtingen over AI als vervanger van wetenschappers.
Volgens Ducas bouwde de aanval voort op ideeën waar onderzoekers zoals Van Gent al mee bezig waren. ‘De laatste stap is vaak makkelijker, omdat je al weet waar je naartoe wilt’, zegt hij. ‘Het moeilijkste is juist het vinden van de juiste richting.’ Dat blijkt ook uit het feit dat een menselijke onderzoeker diezelfde week soortgelijke resultaten bereikte als het AI-model.
Vooral in de wiskunde is een brede kennisbasis belangrijk, benadrukt Ducas. ‘De wiskunde is opgebouwd uit eeuwen aan verzamelde kennis. Om die bruikbaar te houden, is voortdurend onderhoud nodig: ordenen, vergelijken en verbanden leggen.’ AI kan leren van artikelen en boeken, en inmiddels zelfs nieuwe kennis produceren. Maar volgens Ducas heeft AI nog niet de onderzoekscultuur ontwikkeld die nodig is om dat werk even zorgvuldig en systematisch uit te voeren als mensen. Het is belangrijk dat die cultuur behouden blijft, zegt hij. Dit is ook onderwerp van discussie in de recent gepubliceerde Leiden Declaration on Artificial Intelligence and Mathematics.
Terug naar de tekentafel
Ondanks het terugtrekken van HAWK blijven de onderzoekers optimistisch. De aanval bracht een zwakke plek aan het licht in één experimenteel ontwerp, maar niet in de bredere onderzoeksrichting of in de huidige post-quantumcryptografie die door het Amerikaanse standaardisatie-instituut NIST is goedgekeurd. ‘We moeten meer onderzoek doen’, zegt Ducas. ‘Nu de druk van het standaardisatietraject is weggevallen, kunnen we de tijd nemen om deze ideeën beter te begrijpen.’ En in een vakgebied dat een belangrijke rol speelt bij de beveiliging van het internet, draagt elke geleerde les uiteindelijk bij aan de ontwikkeling van nieuwe veilige versleutelingstechnieken.