Linus Torvalds gebruikt LLM voor kernelpatch: 23x sneller

Linus Torvalds heeft voor het eerst een Linux-kernelpatch gepubliceerd die met hulp van een groot taalmodel is geschreven. In een synthetische benchmark meldde hij een prestatieverbetering van 23 keer.

De patch staat in de ontwikkeltak van de kernel en pakt een al lang bestaand cachecontentieprobleem aan dat ontstaat wanneer meerdere processors tegelijkertijd hetzelfde bestand lezen.

Dat probleem kan optreden bij het serveren van gedeelde bibliotheken, databases en webservers. Verschillende ontwikkelaars hebben eerder geprobeerd het op te lossen, maar de resultaten liepen uiteen en niemand kwam met een allesomvattende oplossing.

Torvalds publiceerde begin 2024 zijn eerste concept en zei dat hij het op zijn persoonlijke laptop gebruikte. Onlangs besloot hij 'echt te proberen dit met een LLM op te lossen'. De wijzigingen met ondersteuning van een LLM zijn nu beschikbaar in een ontwikkeltak.

In zijn synthetische test rapporteerde hij een 23-voudige verbetering, maar hij waarschuwde dat het effect in de praktijk veel kleiner zal zijn, omdat 'geen echte werklast' zulke cijfers oplevert. Volgens hem zullen servers er waarschijnlijk meer baat bij hebben dan desktops.

Torvalds heeft de afgelopen jaren een overwegend positieve houding aangenomen tegenover LLM-tools in de reviewgedreven kernelomgeving. Maanden geleden zei hij dat hij 'op zijn achterste poten zou gaan staan' als reactie op AI-tegenstanders. Ook merkte hij op dat de geautomatiseerde code-reviewtools van het kernelteam basisprogrammeerfouten beter opsporen dan mensen.

Tegelijkertijd zijn AI-agents steeds beter geworden in het vinden van veelvoorkomende patronen in beveiligingsfouten. Ontwikkelaars zeiden dat de linux-security-mailinglijst in de eerste maanden van het jaar 'onbeheersbaar' werd. Linux verhelpt bugs in hoog tempo, met ongeveer 2.000 CVE-fixes per release.

Die druk heeft het team ertoe gebracht oudere hardwaredrivers te verwijderen die veel beveiligingsmeldingen opleveren, ondanks hun beperkte gebruikersgroep.

De nieuwe patch heeft het conflict tussen voor- en tegenstanders van AI in de kernelgemeenschap niet beslecht; de discussie gaat door. De patch blijft ter beoordeling in de ontwikkeltak.