Het Amerikaanse technologiebedrijf Tiiny AI heeft zijn innovatieve apparaat “Tiiny AI Pocket Lab” gelanceerd, dat officieel wordt erkend als de “kleinste persoonlijke supercomputer voor kunstmatige intelligentie ter wereld”, volgens het Guinness World Records.
Dit apparaat lijkt op een kleine powerbank en is uniek omdat het in staat is om deep learning-modellen (LLMs) tot 120 miljard parameters lokaal uit te voeren, zonder dat een cloudverbinding of traditionele grafische verwerkingsunits (GPU’s) nodig is.
Met dit innovatieve product streeft het bedrijf ernaar individuen de mogelijkheid te bieden om geavanceerde kunstmatige intelligentie te gebruiken zonder afhankelijk te zijn van datacentra. Dit zorgt voor een vergelijkbare prestatie als supercomputers, terwijl het energieverbruik wordt verminderd en de privacy wordt versterkt.
De lancering vond plaats op 10 december, en biedt een praktische oplossing voor de uitdagingen van duurzaamheid en de stijgende energiekosten die voortkomen uit traditionele AI-infrastructuren.
In een persverklaring zei Samer Boug, marketing- en verkoopdirecteur bij Tiiny AI: “Ondanks de vooruitgang die cloud AI heeft geboekt, staat het voor uitdagingen op het gebied van betrouwbaarheid, veiligheid en duurzaamheid. Met het Tiiny AI Pocket Lab geloven we dat kunstmatige intelligentie toegankelijk moet zijn voor individuen, waardoor het privé en gebruiksvriendelijker wordt voor elk apparaat.”
Het apparaat is ontworpen om te voldoen aan de diverse behoeften van persoonlijk AI-gebruik, gericht op creatievelingen, ontwikkelaars, onderzoekers en studenten.
Het biedt geavanceerde functies zoals multi-step inferentie, contextbegrip, agent workflow management, content creatie en veilige verwerking van gevoelige data zonder internetverbinding. Data wordt lokaal opgeslagen met een bankniveau encryptie, wat de privacy versterkt en zorgt voor een lange termijn opslag.
Het systeem ondersteunt modellen met 10 tot 100 miljard parameters en kan zelfs modellen tot 120 miljard parameters draaien, wat resulteert in een prestatie die vergelijkbaar is met de GPT-4 bij multi-step analyses, terwijl de dataveiligheid gewaarborgd blijft.
Het apparaat is uitgerust met een ARMv9.2-processor met 12 cores en een vermogen van 65 watt, wat zorgt voor hoge prestaties met een lage energiekosten en een kleinere ecologische voetafdruk vergeleken met traditionele systemen.
Daarnaast maakt het gebruik van twee belangrijke technologieën:
- TurboSparse: Activeert alleen de benodigde neuronen om de efficiëntie te verhogen zonder prestatieverlies.
- Powerinfer: Een open-source motor die de AI-belasting tussen de CPU en de NPU verdeelt om het energieverbruik te verminderen.
Het apparaat draait op een open-source systeem dat de installatie van populaire modellen zoals Llama, DeepSeek en GPT-OSS ondersteunt, en biedt gebruikers regelmatige updates en upgrades via internet. De onthulling van deze functies staat gepland voor de Consumer Electronics Show (CES) in januari 2026.
