Opera introduceert lokale AI in de browser: kansen voor privacy, lagere cloudkosten en bestaande pc’s, maar ook nieuwe beveiligingsrisico’s

Opera introduceert een technologie waarmee AI-modellen rechtstreeks in de browser kunnen draaien, zonder dat alle verwerkte gegevens naar externe clouddiensten hoeven te worden verstuurd. Dat kan bedrijven helpen hun privacy te verbeteren, het gebruik van cloud-AI terug te dringen en bestaande computers langer te benutten. Tegelijkertijd ontstaan nieuwe uitdagingen op het gebied van endpointbeveiliging, centraal IT-beheer, toegangscontrole en de beheersing van AI-toepassingen binnen organisaties.

De browserontwikkelaar Opera is begonnen met de introductie van ondersteuning voor WebAI, een voorgestelde webstandaard waarmee websites en browserextensies gebruik kunnen maken van AI-modellen die lokaal op de computer van de gebruiker draaien. De functionaliteit wordt aangeboden als een optionele, vroege testversie in Opera One.

Met deze ontwikkeling wil Opera het mogelijk maken om bepaalde AI-taken rechtstreeks op de computer uit te voeren. Denk daarbij aan het samenvatten van teksten, het herschrijven van documenten, het genereren van tekst en het classificeren van informatie. Voor dergelijke toepassingen hoeft de inhoud niet noodzakelijkerwijs naar een externe AI-provider te worden verzonden.

De introductie past in een bredere ontwikkeling waarbij AI niet langer uitsluitend afhankelijk is van krachtige servers in datacenters, maar steeds vaker ook op laptops en desktops wordt uitgevoerd. Voor bedrijven kan dit gevolgen hebben voor hun privacybeleid, infrastructuurkosten, hardwarestrategie en de manier waarop zij AI-gebruik binnen de organisatie beveiligen en beheren.

1. Wat is WebAI en hoe werkt lokale AI in de browser?

WebAI is een voorgestelde webstandaard die websites en browserextensies toegang moet geven tot AI-modellen die op het apparaat van de gebruiker beschikbaar zijn. Het doel is om AI-functionaliteit rechtstreeks in de browser mogelijk te maken, zonder dat voor iedere taak noodzakelijkerwijs een verbinding met een externe AI-dienst nodig is.

Traditioneel verloopt het gebruik van veel AI-toepassingen via een cloudmodel. Een gebruiker voert bijvoorbeeld een tekst in een AI-chatvenster in, waarna die informatie via internet naar een externe server wordt verzonden. Daar verwerkt een AI-model de opdracht en wordt het resultaat teruggestuurd naar de gebruiker.

Bij lokale AI kan dat proces gedeeltelijk of volledig op de eigen computer plaatsvinden. De browser maakt dan gebruik van een lokaal beschikbaar model om de ingevoerde informatie te verwerken en een antwoord of resultaat te produceren.

Dit kan verschillende voordelen opleveren:

• Minder gegevensoverdracht: informatie hoeft voor bepaalde taken niet naar externe AI-servers te worden verstuurd.
• Meer controle over gevoelige informatie: vertrouwelijke teksten kunnen lokaal worden verwerkt, mits de gebruikte website, browser, extensies en het AI-model correct zijn ingericht.
• Mogelijk lagere gebruikskosten: wanneer AI-taken lokaal worden uitgevoerd, zijn daarvoor niet altijd betaalde cloud-API’s nodig.
• Minder afhankelijkheid van externe diensten: eenvoudige AI-functies kunnen mogelijk ook beschikbaar blijven wanneer een externe AI-dienst tijdelijk niet bereikbaar is, zolang het lokale model en de benodigde functionaliteit beschikbaar zijn.
• Mogelijk snellere verwerking: bij geschikte hardware en relatief kleine modellen kan lokale verwerking snel zijn, omdat gegevens niet eerst naar een externe server hoeven te worden verstuurd.

Het is echter belangrijk om onderscheid te maken tussen de beschikbaarheid van een lokaal AI-model en de manier waarop een website dat model daadwerkelijk gebruikt. Dat een model op de computer draait, betekent niet automatisch dat de volledige toepassing lokaal werkt. Een website kan bijvoorbeeld nog steeds andere gegevens naar zijn eigen servers verzenden.

Ook betekent lokale verwerking niet dat alle communicatie met internet wordt uitgeschakeld. De browser blijft in veel gevallen online en websites kunnen, afhankelijk van hun functionaliteit en de verleende machtigingen, nog steeds gegevens uitwisselen met externe systemen.

2. Welke computers ondersteunt Opera?

De eerste WebAI-preview van Opera ondersteunt volgens het bedrijf 64-bits Windows-computers met Intel- of AMD-processors en Macs met Apple Silicon.

De functie is daarmee niet beperkt tot computers die specifiek als AI-pc worden verkocht. Opera noemt geen verplichte aanwezigheid van een afzonderlijke neurale processor, doorgaans aangeduid als een NPU (Neural Processing Unit).

Dat betekent echter niet dat iedere compatibele computer dezelfde prestaties zal leveren. De snelheid en bruikbaarheid van lokale AI zijn afhankelijk van onder meer:

• de rekenkracht van de processor;
• de hoeveelheid beschikbaar werkgeheugen;
• de grafische processor en eventuele AI-versnelling;
• de omvang en architectuur van het AI-model;
• de complexiteit van de opdracht;
• de hoeveelheid informatie die het model moet verwerken.

Een relatief klein taalmodel kan op een gewone laptop bruikbaar zijn voor het herschrijven van korte teksten of het samenvatten van beperkte hoeveelheden informatie. Grotere modellen en complexere opdrachten vragen doorgaans aanzienlijk meer geheugen en rekenkracht.

Geen verplichte NPU, maar hardware blijft belangrijk

Een NPU is een processoronderdeel dat speciaal is ontworpen om bepaalde AI-berekeningen efficiënt uit te voeren. Moderne AI-pc’s kunnen hiermee sommige AI-taken sneller en energiezuiniger uitvoeren dan wanneer uitsluitend de algemene processor wordt gebruikt.

Voor de huidige WebAI-preview stelt Opera geen specifieke NPU-eis. Daarmee kan de technologie in beginsel ook bruikbaar zijn op bestaande computers die niet over zo’n gespecialiseerde processor beschikken.

Dat kan voor bedrijven interessant zijn. Organisaties hoeven mogelijk niet direct nieuwe hardware aan te schaffen om eenvoudige AI-functionaliteit beschikbaar te stellen aan medewerkers.

Toch moet de werkelijke geschiktheid per apparaat worden beoordeeld. Een computer kan technisch compatibel zijn, maar onvoldoende geheugen of rekenkracht hebben om een bepaald model op een acceptabele snelheid uit te voeren. Ook kunnen de beschikbare modellen en prestaties per besturingssysteem verschillen.

Windows op Arm wordt voorlopig niet ondersteund

Een belangrijke beperking is dat de preview momenteel geen ondersteuning biedt voor Windows op Arm.

Dit kan de inzetbaarheid beperken bij organisaties die werken met laptops op basis van Arm-processors, waaronder bepaalde nieuwere, energiezuinige AI-pc’s.

Voor IT-afdelingen betekent dit dat niet alleen de aanwezigheid van een AI-geschikte processor telt. Ook de combinatie van besturingssysteem, browser, processorarchitectuur en ondersteunde modellen bepaalt of de functie daadwerkelijk inzetbaar is.

Omdat het om een vroege preview gaat, kunnen de ondersteunde apparaten en mogelijkheden in latere versies veranderen.

3. Opt-in en machtigingen: gebruikers bepalen welke websites toegang krijgen

Opera maakt de nieuwe functionaliteit optioneel. AI-modellen worden volgens het bedrijf pas gedownload nadat een gebruiker de functie heeft ingeschakeld.

Daarnaast ondersteunt de implementatie machtigingen waarmee gebruikers kunnen bepalen welke websites toegang krijgen tot de lokaal beschikbare modellen.

Dit is een relevant onderdeel van het beveiligingsmodel. Een lokaal AI-model kan immers informatie verwerken die afkomstig is uit een website, een document of een andere toepassing. Zonder duidelijke toegangsregels kan het risico ontstaan dat websites of extensies AI-functionaliteit gebruiken op manieren die de gebruiker niet verwacht.

Met afzonderlijke websitebevoegdheden kan een gebruiker de toegang beperken tot websites waarvoor lokale AI daadwerkelijk nodig is.

Voor zakelijke omgevingen is dit echter slechts een eerste beveiligingslaag. Individuele gebruikersmachtigingen zijn niet automatisch hetzelfde als centraal beleid dat door de IT-afdeling wordt afgedwongen. Organisaties moeten daarom nagaan of zij deze instellingen centraal kunnen beheren, controleren en handhaven binnen alle gebruikte browsers en apparaten.

Ook moeten zij rekening houden met de manier waarop browserextensies werken, welke gegevens deze kunnen inzien en welke andere rechten zij hebben gekregen.

4. Welke AI-modellen kunnen lokaal worden gebruikt?

Opera zegt dat de implementatie ondersteuning biedt voor verschillende modellen, waaronder Google Gemma en het on-device foundationmodel van Apple op compatibele Macs.

Daarnaast wil het bedrijf meer modellen introduceren die zijn geoptimaliseerd voor verschillende apparaten.

De mogelijkheid om tussen modellen te kiezen, kan ontwikkelaars meer flexibiliteit bieden. Niet iedere AI-taak vereist immers hetzelfde type model.

Een kleiner model kan bijvoorbeeld geschikt zijn voor tekstclassificatie, eenvoudige samenvattingen of het herschrijven van korte teksten. Voor complexere redeneringen, uitgebreide analyses of taken die veel context vereisen, kan een krachtiger model nodig zijn.

De keuze voor een model heeft ook gevolgen voor het geheugengebruik, de snelheid, de energieconsumptie en de kwaliteit van de resultaten.

Bovendien is ondersteuning voor een bepaald model niet hetzelfde als een garantie dat alle toepassingen dat model optimaal kunnen benutten. De praktische bruikbaarheid hangt mede af van de implementatie in de browser, de beschikbare modelversie en de manier waarop een website de AI-functionaliteit aanroept.

Voor bedrijven zal daarom niet alleen de vraag van belang zijn welke modellen beschikbaar zijn, maar ook welke modellen geschikt zijn voor specifieke bedrijfsprocessen en onder welke voorwaarden ze mogen worden gebruikt.

5. Lokale AI biedt privacyvoordelen, maar neemt beveiligingsrisico’s niet weg

Een van de belangrijkste argumenten voor lokale AI is dat gevoelige informatie niet altijd naar een externe AI-provider hoeft te worden verstuurd.

Voor organisaties die werken met vertrouwelijke bedrijfsdocumenten, interne communicatie, klantgegevens of andere gevoelige informatie kan dat een belangrijk voordeel zijn.

Wanneer een AI-taak volledig lokaal wordt uitgevoerd en de toepassing geen relevante gegevens naar externe partijen verzendt, kan de hoeveelheid informatie die de organisatie buiten haar eigen omgeving verwerkt aanzienlijk worden beperkt.

Dat betekent echter niet dat lokale AI automatisch veilig is.

De beveiligingsrisico’s verschuiven gedeeltelijk van externe AI-diensten naar de computer, de browser, de website en de extensies die toegang krijgen tot de lokale functionaliteit.

Pareekh Jain, CEO van Pareekh Consulting, wijst erop dat lokale verwerking bepaalde beveiligingsrisico’s kan verminderen, maar dat het voor IT-afdelingen tegelijkertijd moeilijker kan worden om het gebruik van AI op afzonderlijke apparaten te controleren.

Volgens Jain is netwerkverkeer doorgaans eenvoudiger centraal te monitoren dan alle activiteiten die zich op individuele laptops afspelen. Wanneer AI-verwerking lokaal plaatsvindt, kan een deel van de relevante activiteit buiten het traditionele zicht van netwerkbeveiligingssystemen vallen.

Dat vraagt om een andere benadering van beveiliging: niet alleen controleren welke gegevens het netwerk verlaten, maar ook welke toepassingen lokaal gegevens kunnen verwerken en welke bevoegdheden zij daarvoor hebben.

6. Het risico van schadelijke websites en prompt injection

Een belangrijk aandachtspunt is prompt injection. Dit is een aanvalstechniek waarbij een AI-systeem wordt geconfronteerd met instructies die zijn bedoeld om het gedrag van het model te beïnvloeden of de oorspronkelijke opdracht te doorkruisen.

Dergelijke instructies kunnen bijvoorbeeld verborgen zitten in webpagina’s, documenten, e-mails of andere inhoud die door een AI-systeem wordt gelezen.

Een gebruiker kan een AI-model vragen een webpagina samen te vatten, terwijl die pagina daarnaast instructies bevat die proberen het model iets anders te laten doen. Wanneer de toepassing onvoldoende onderscheid maakt tussen de opdracht van de gebruiker en onbetrouwbare inhoud, kan het model worden beïnvloed.

Bij browsergebaseerde AI is dat extra relevant, omdat het model mogelijk informatie verwerkt die rechtstreeks afkomstig is van websites.

Het risico hangt onder meer af van de manier waarop de toepassing het model aanstuurt, welke gegevens beschikbaar worden gesteld en welke acties de toepassing mag uitvoeren.

Een lokaal model kan bijvoorbeeld worden gebruikt om tekst samen te vatten zonder dat het toegang krijgt tot andere documenten. In een uitgebreider systeem kan AI daarentegen ook informatie uit meerdere bronnen combineren of via aanvullende functies interactie hebben met websites en andere toepassingen. In dat laatste geval kunnen de gevolgen van een geslaagde aanval groter zijn.

Daarom moeten organisaties ervoor zorgen dat AI-modellen niet zonder duidelijke beperkingen toegang krijgen tot gevoelige informatie of bevoegdheden waarmee zij zelfstandig risicovolle handelingen kunnen uitvoeren.

Lokale verwerking voorkomt niet dat informatie wordt misbruikt

Het feit dat een model lokaal draait, beschermt de gegevens niet automatisch tegen misbruik door de website of extensie die het model aanroept.

Een schadelijke website kan proberen een model te manipuleren. Een onbetrouwbare browserextensie kan mogelijk toegang hebben tot pagina-inhoud of andere gegevens waarvoor de gebruiker toestemming heeft verleend. En een toepassing kan informatie alsnog naar een externe server verzenden als zij daarvoor afzonderlijke functionaliteit heeft.

De belangrijkste beveiligingsvraag is daarom niet uitsluitend waar het model draait, maar ook welke gegevens het model mag verwerken, welke instructies het vertrouwt en welke acties de omliggende toepassing kan uitvoeren.

Jain waarschuwt dat kwaadwillende websites lokale AI-modellen mogelijk kunnen manipuleren met verborgen instructies. Ook kunnen onbetrouwbare browserextensies een risico vormen wanneer zij toegang hebben tot gevoelige informatie die op het scherm of in webpagina’s wordt weergegeven.

Zijn kernpunt is dat lokale verwerking de risico’s kan verkleinen, maar niet volledig wegneemt.

7. Waarom centraal IT-beheer essentieel blijft

Voor grote organisaties is het niet voldoende dat individuele medewerkers zelf kunnen bepalen welke websites toegang krijgen tot lokale AI.

IT-afdelingen moeten ook kunnen vaststellen welke instellingen gelden, of deze instellingen worden nageleefd en of afwijkingen tijdig worden ontdekt.

Tulika Sheel, senior vicepresident bij Kadence International, benadrukt dat organisaties controle moeten houden over de websites en extensies die toegang hebben tot lokale modellen, de manier waarop informatie wordt gebruikt en het beheer van modellen en browsermachtigingen.

Dit vraagt om duidelijke afspraken en technische maatregelen.

Organisaties zullen bijvoorbeeld moeten bepalen:

• welke websites lokale AI mogen gebruiken;
• welke browserextensies zijn toegestaan;
• welke categorieën informatie met AI mogen worden verwerkt;
• welke gegevens nooit naar AI-toepassingen mogen worden gekopieerd;
• hoe browserinstellingen en machtigingen centraal worden beheerd;
• hoe modellen worden bijgewerkt en gecontroleerd;
• hoe afwijkend gedrag en beveiligingsincidenten worden opgespoord;
• wie verantwoordelijk is voor het beoordelen van nieuwe AI-functionaliteit.

Ook moeten organisaties nagaan of de browser voldoende mogelijkheden biedt om centraal beleid af te dwingen en om het gebruik van lokale AI inzichtelijk te maken.

Wanneer die mogelijkheden ontbreken of beperkt zijn, kan de inzet van lokale AI leiden tot versnipperd beheer. Verschillende medewerkers kunnen dan verschillende instellingen, extensies of modellen gebruiken, waardoor het moeilijker wordt om een consistent beveiligingsniveau te handhaven.

Van netwerkbeveiliging naar beveiliging op het apparaat

Bij traditionele cloud-AI is een deel van de gegevensoverdracht zichtbaar in het netwerkverkeer. Organisaties kunnen bijvoorbeeld controleren welke externe diensten worden benaderd en welke netwerkverbindingen worden toegestaan.

Bij lokale AI kan een groter deel van de verwerking plaatsvinden zonder dat er voor iedere opdracht een externe verbinding nodig is.

Daardoor wordt beveiliging op het apparaat zelf belangrijker. Denk aan endpointbeveiliging, browserbeleid, applicatiecontrole, toegangsbeheer en monitoring van relevante activiteiten.

Dit betekent niet dat netwerkbeveiliging overbodig wordt. Netwerkcontroles blijven belangrijk voor het verkeer dat wel naar externe diensten gaat. De beveiliging moet alleen breder worden ingericht, zodat zowel lokale als externe verwerking onder het beleid van de organisatie valt.

8. Kan browser-AI de aanschaf van nieuwe AI-pc’s uitstellen?

Een tweede belangrijke vraag is of lokale AI in de browser de noodzaak vermindert om nieuwe computers aan te schaffen.

AI-pc’s worden onder meer gepositioneerd als apparaten die AI-taken lokaal kunnen uitvoeren met behulp van gespecialiseerde hardware, waaronder NPU’s. Zulke hardware kan bepaalde berekeningen efficiënter afhandelen en zo prestaties en energieverbruik verbeteren.

Opera’s benadering laat echter zien dat niet iedere lokale AI-toepassing noodzakelijkerwijs een speciaal daarvoor ontworpen computer vereist.

Wanneer bestaande laptops voldoende geheugen en rekenkracht hebben, kunnen zij mogelijk eenvoudige AI-taken uitvoeren zonder dat een organisatie direct nieuwe hardware hoeft aan te schaffen.

Jain stelt dat kleinere AI-modellen geschikt kunnen zijn voor toepassingen zoals samenvatten en herschrijven. Daardoor zouden bedrijven hun bestaande pc’s langer kunnen blijven gebruiken en geplande hardwarevervangingen mogelijk kunnen uitstellen.

Voor complexere AI-taken blijven krachtigere systemen echter relevant. Grote modellen, uitgebreide redeneertaken en toepassingen die veel gegevens moeten verwerken, kunnen baat hebben bij gespecialiseerde AI-hardware of cloudinfrastructuur.

Welke taken zijn geschikt voor bestaande computers?

De geschiktheid van lokale AI hangt af van de taak, het model en de hardware. In grote lijnen kunnen de volgende toepassingen interessant zijn:

Relatief eenvoudige taken

• korte teksten samenvatten;
• teksten herschrijven of redigeren;
• tekst classificeren;
• informatie uit korte passages ordenen;
• eenvoudige tekstsuggesties genereren.

Deze taken kunnen onder geschikte omstandigheden worden uitgevoerd met relatief kleine modellen en beperkte rekenkracht.

Zwaardere taken

• uitgebreide analyses van grote documentenverzamelingen;
• complexe redeneringen met veel onderlinge afhankelijkheden;
• het verwerken van grote hoeveelheden context;
• AI-toepassingen die meerdere systemen en gegevensbronnen combineren;
• workflows waarin AI zelfstandig meerdere acties uitvoert.

Voor dit soort toepassingen kunnen krachtigere modellen, meer geheugen, gespecialiseerde hardware of cloudgebaseerde AI nodig blijven.

Dit onderscheid is niet absoluut. Een kleine taak kan door een ongeschikt model alsnog veel rekenkracht vragen, terwijl een goed geoptimaliseerd model sommige complexere opdrachten verrassend efficiënt kan uitvoeren. De werkelijke prestaties moeten daarom met representatieve bedrijfsopdrachten worden getest.

Hardwarekosten zijn meer dan alleen de aanschafprijs

Zelfs wanneer lokale AI op bestaande computers kan draaien, betekent dat niet automatisch dat de totale IT-kosten dalen.

Organisaties moeten ook rekening houden met het energieverbruik, de prestaties van oudere apparaten, eventuele geheugenuitbreidingen, technische ondersteuning en de tijd die nodig is om de nieuwe functionaliteit te beheren.

Als een lokaal model op oudere hardware te langzaam werkt, kan de productiviteitswinst beperkt zijn. Wanneer medewerkers daardoor langer moeten wachten of vaker moeten overschakelen naar andere systemen, kan een ogenschijnlijk goedkope oplossing uiteindelijk minder efficiënt uitpakken.

De relevante vraag is dus niet alleen of een bestaande pc lokale AI kan uitvoeren, maar of die pc de benodigde taken betrouwbaar, veilig en snel genoeg kan uitvoeren.

9. Kan lokale browser-AI de cloudkosten van bedrijven verlagen?

Naast privacy en hardware speelt de kostenstructuur een belangrijke rol.

Veel cloudgebaseerde AI-diensten rekenen kosten op basis van het gebruik, bijvoorbeeld aan de hand van het aantal verwerkte tokens, het aantal verzoeken of de gekozen modelvariant. Bij grootschalig gebruik kunnen dergelijke kosten aanzienlijk oplopen.

Wanneer eenvoudige AI-taken lokaal worden uitgevoerd, kan het aantal verzoeken aan externe AI-diensten afnemen. Dat kan de uitgaven aan cloud-AI en API-gebruik verminderen.

Denk bijvoorbeeld aan een organisatie waarin medewerkers dagelijks grote aantallen korte teksten laten samenvatten of herschrijven. Wanneer een geschikt lokaal model deze taken voldoende goed uitvoert, hoeft niet iedere opdracht naar een externe AI-dienst te worden verstuurd.

De mogelijke besparing is echter afhankelijk van het daadwerkelijke gebruik. Als slechts een klein deel van de AI-activiteiten lokaal kan worden uitgevoerd, kan het financiële effect beperkt blijven.

Ook moet worden gekeken naar de kwaliteit van de resultaten. Wanneer een lokaal model minder nauwkeurig is en medewerkers antwoorden voortdurend moeten controleren of corrigeren, kan een deel van de verwachte besparing verloren gaan.

Lagere API-kosten betekenen niet automatisch lagere totale kosten

Sheel benadrukt dat organisaties ook rekening moeten houden met de kosten van modelupdates en de integratie met bestaande systemen.

Naast eventuele cloudkosten zijn er andere uitgaven die moeten worden meegenomen, waaronder:

• de implementatie en configuratie van lokale AI;
• het testen van modellen en toepassingen;
• het beheren van browsermachtigingen en extensies;
• beveiligingsmonitoring en incidentafhandeling;
• het onderhouden en bijwerken van modellen;
• ondersteuning voor medewerkers;
• integratie met bestaande bedrijfsapplicaties;
• het beoordelen van privacy- en compliancevereisten;
• de productiviteitsgevolgen van verschillen in modelkwaliteit.

Een betrouwbare kostenvergelijking moet daarom uitgaan van de totale eigendomskosten, ook wel Total Cost of Ownership genoemd.

Daarbij moeten cloudkosten worden vergeleken met de volledige kosten van lokale verwerking. Het is mogelijk dat een hybride oplossing financieel aantrekkelijker is dan uitsluitend lokale of uitsluitend cloudgebaseerde AI.

10. Waarom een combinatie van lokale en cloud-AI waarschijnlijk het meest praktisch is

De ontwikkeling wijst op een toekomst waarin lokale AI en cloud-AI naast elkaar worden gebruikt.

Lokale AI kan geschikt zijn voor taken waarvoor beperkte rekenkracht volstaat en waarbij gegevens zo veel mogelijk op het apparaat moeten blijven. Cloud-AI kan worden ingezet voor complexere opdrachten die krachtigere modellen, meer geheugen of grotere hoeveelheden rekenkracht vereisen.

Een hybride aanpak kan bedrijven helpen om per taak de juiste balans te vinden tussen privacy, prestaties, kosten en gebruiksgemak.

Een organisatie zou bijvoorbeeld lokale AI kunnen gebruiken voor het herschrijven van interne teksten, terwijl medewerkers voor ingewikkelde analyses een goedgekeurde cloud-AI-dienst gebruiken.

Daarbij moeten wel duidelijke regels gelden voor de gegevens die naar de cloud mogen worden verstuurd. Het feit dat een bepaalde taak technisch eenvoudiger wordt door lokale AI, betekent niet dat alle andere AI-toepassingen automatisch veilig of toegestaan zijn.

Jain verwacht dat eenvoudige taken steeds vaker lokaal worden uitgevoerd, terwijl geavanceerdere AI-toepassingen afhankelijk blijven van cloudinfrastructuur of krachtige gespecialiseerde hardware.

Deze combinatie maakt het mogelijk om AI niet als één uniforme dienst te behandelen, maar als een verzameling mogelijkheden die afhankelijk van de taak op verschillende plaatsen kunnen worden uitgevoerd.

11. Wat betekent WebAI voor ontwikkelaars en bedrijven?

Als WebAI breder wordt ondersteund, kan de technologie gevolgen hebben die verder reiken dan Opera One.

Een gedeelde webstandaard kan ontwikkelaars helpen om AI-functionaliteit te bouwen die toegang heeft tot lokale modellen via een browseromgeving. Dat zou de afhankelijkheid van afzonderlijke cloud-API’s voor bepaalde toepassingen kunnen verminderen.

Ontwikkelaars zouden daardoor meer mogelijkheden krijgen om AI-functies rechtstreeks in websites en browserextensies aan te bieden.

Voor bedrijven kan dat aantrekkelijk zijn, omdat AI-functionaliteit beschikbaar kan komen binnen de bestaande werkomgeving van medewerkers. In sommige gevallen kan lokale verwerking bovendien de noodzaak beperken om bedrijfsgegevens met externe AI-providers te delen.

Maar standaardisatie lost niet alle praktische problemen op.

Organisaties moeten nog steeds controleren welke modellen worden gebruikt, welke gegevens worden verwerkt, hoe de resultaten worden beoordeeld en welke rechten de betreffende toepassing heeft.

Ook is een voorgestelde webstandaard niet hetzelfde als een universeel ondersteunde, definitieve standaard. De uiteindelijke impact hangt af van de verdere ontwikkeling, de implementatie door browserleveranciers en de beschikbaarheid van geschikte modellen op verschillende apparaten.

Het is daarom te vroeg om te concluderen dat browser-AI op korte termijn alle cloud-AI kan vervangen of dat iedere website binnenkort veilig gebruik zal kunnen maken van lokale modellen.

12. Welke aandachtspunten moeten IT-afdelingen nu al meenemen?

Voor organisaties die lokale AI in browsers willen onderzoeken, is een gecontroleerde pilot een verstandige eerste stap. Daarbij moeten niet alleen de prestaties worden getest, maar ook de beveiliging, het beheer en de economische haalbaarheid.

Een praktisch beoordelingskader bestaat uit de volgende onderdelen.

1. Beveiliging en toegangsrechten

Stel vast welke websites en extensies toegang kunnen krijgen tot lokale AI. Controleer of de rechten beperkt kunnen worden tot wat noodzakelijk is en of gebruikers niet ongemerkt bredere toegang verlenen.

2. Privacy en gegevensverwerking

Breng in kaart welke gegevens lokaal worden verwerkt en welke informatie alsnog naar externe servers kan worden verzonden. Maak daarbij onderscheid tussen de verwerking door het AI-model en de overige functionaliteit van de website.

3. Centraal beheer

Onderzoek of browserinstellingen, modeltoegang en extensies centraal kunnen worden beheerd. Bepaal hoe de organisatie afwijkingen kan detecteren en ongewenste configuraties kan voorkomen.

4. Bescherming tegen prompt injection

Test hoe toepassingen omgaan met onbetrouwbare webpagina’s en documenten. Zorg ervoor dat instructies uit externe inhoud niet automatisch dezelfde bevoegdheden krijgen als opdrachten van de gebruiker of het organisatiebeleid.

5. Prestaties op bestaande hardware

Voer tests uit op de computers die medewerkers daadwerkelijk gebruiken. Meet de snelheid, het geheugengebruik, de stabiliteit en de kwaliteit van de resultaten bij representatieve taken.

6. Modelkwaliteit

Vergelijk de uitkomsten van lokale modellen met de bestaande cloudoplossingen. Beoordeel niet alleen de snelheid, maar ook de nauwkeurigheid, volledigheid en bruikbaarheid van de resultaten.

7. Totale kosten

Bereken hoeveel cloudgebruik werkelijk kan worden vervangen en welke extra kosten ontstaan door beheer, beveiliging, updates, ondersteuning en eventuele hardwareaanpassingen.

8. Governance en verantwoordelijkheid

Leg vast wie verantwoordelijk is voor het goedkeuren van modellen, het beheren van instellingen, het beoordelen van incidenten en het vaststellen van toegestane toepassingen.

Deze aanpak maakt het mogelijk om lokale AI te beoordelen als een onderdeel van de bestaande IT-architectuur, in plaats van als een op zichzelf staande browserfunctie.

Door: Drifter