Worden AI-pc's de nieuwe 'sweet spot' voor CPU's en DRAM's?

De pc-industrie warmt op voor een nieuwe sweet spot: pc's met AI-mogelijkheden. Intel en Microsoft, de voornaamste begunstigden van de pc-revolutie, pushen nu pc's met AI-enabled CPU's en AI-aangedreven software-assistenten om AI-applicaties van de cloud naar het pc-domein te verplaatsen.

Volgens Intel CEO Pat Gelsinger, zal AI-services goedkoper, sneller en privater worden dan het gebruik van services gebaseerd op cloud-centrische datacenters. "Je ontketent deze kracht voor elke persoon, elk gebruiksgeval, elke locatie in de toekomst," zei hij op de CES 2024 in Las Vegas.

De Meteor Lake laptop CPU van ntel heeft een NPU ingebouwd om AI-softwarefuncties van derden te ondersteunen. Zijn aartsrivaal in de pc-hardwareruimte, AMD, heeft ook AI pc-processors geleverd. Vervolgens presenteerde Nvidia drie nieuwe GPU's - RTX 4060 Super, RTX 4070 Ti Super en RTX 4080 Super - voor AI-ready laptops tijdens een virtueel evenement vóór CES 2024.

Figuur 1 Meteor Lake CPU heeft een NPU ingebouwd ter ondersteuning van AI-toepassingen. Bron: Intel

Naast AI-ready processors hebben geheugenchipmakers als Micron, Samsung en SK hynix ook hun oog laten vallen op AI-pc's om AI-accelerators in staat te stellen krachtige assistenten op pc's te draaien. Nieuwe laptops worden momenteel geleverd met maar liefst 8 MB RAM, en het zal waarschijnlijk verdubbelen in Windows-gebaseerde AI-pc's. Een groot taalmodel dat een AI-assistent draait, zou zelfs meer dan 16 MB geheugen kunnen vereisen.

Neem het voorbeeld van de Llama 2-familie van AI-modellen die is gemaakt door Meta, die bijna 30 GB RAM nodig heeft voor zijn bescheiden variant. Bovendien zal de hoeveelheid geheugen in AI-pc's waarschijnlijk toenemen met de beschikbaarheid van krachtigere AI-versnellers en processors.

Figuur 2 Copilot AI-assistent is gebouwd rond het GPT-4-model van OpenAI. Bron: Microsoft

Op dit moment zijn consumenten nog maar net begonnen met het opwarmen van AI-pc's en het zal nog wel even duren voordat er meer native applicaties beschikbaar komen voor AI-pc's. Echter, zowel hardware als software voor AI-pc's zal in de loop van de tijd krachtiger worden en dat is goed nieuws voor halfgeleiderapparaten zoals CPU's, GPU's en DRAM's.