In een belangrijke stap voor mobiele kunstmatige intelligentie hebben OpenAI en Qualcomm een doorbraakpartnerschap aangekondigd. Dit stelt AI-modellen in staat om direct op Snapdragon mobiele processors te draaien. Deze ontwikkeling [1] is een cruciale stap in de richting van het integreren van geavanceerde AI-mogelijkheden in smartphones en andere mobiele apparaten, zonder dat daar constante internetverbinding of cloudverwerking voor nodig is.
De samenwerking richt zich op het optimaliseren van OpenAI's gpt-oss-20b model voor Snapdragon chips, wat on-device AI-verwerking mogelijk maakt. Dit belooft meer privacy en minder vertraging in AI-toepassingen. Deze lokale verwerkingscapaciteit vertegenwoordigt een belangrijke verschuiving van het huidige model dat afhankelijk is van cloudgebaseerde AI-implementaties [1].
De timing van deze aankondiging is bijzonder relevant, aangezien OpenAI zich voorbereidt om het volgende generatie GPT-5 model te lanceren. Het bedrijf richt zich op het toegankelijker en verantwoordelijker maken van zijn AI-technologie, met recente updates die verbeterde mogelijkheden voor het detecteren van mentale gezondheidsproblemen omvatten [2].
Deze mobiele AI-verbetering komt tegelijkertijd met bredere ontwikkelingen in de AI-infrastructuur binnen de industrie. Broadcom heeft zijn nieuwe Jericho4 ASICs onthuld, die multi-datacenter AI-trainingsmogelijkheden mogelijk maken. Dit suggereert een toekomst waarin AI-verwerking verdeeld kan worden over bestaande datacenters, in plaats van dat er enorme supercomputerclusters nodig zijn [3].
De beweging richting on-device AI-verwerking toont al praktische toepassingen in systemen voor huisautomatisering. Ontwikkelaars hebben succesvolle implementaties van lokale taalmodellen aangetoond voor taken zoals het genereren van weersberichten, wat de haalbaarheid van edge AI-verwerking bewijst [4].
- OpenAI’s AI-model kan nu rechtstreeks op Snapdragon-hardware draaien
- ChatGPT zal ‘beter detecteren’ wanneer er sprake is van mentale nood na meldingen dat het mensen hun waanideeën aanpraat
- Broadcom’s Jericho4 ASICs hebben net de deur geopend naar multi-datacenter AI-training
- Ik krijg een perfect weersbericht op mijn Home Assistant-dashboard, zo doe ik dat met een lokaal LLM
