GPU čipy sice odvádějí skvělou práci při hrubých výpočtech a generování textu, ale nové AI systémy vyžadují mnohem více koordinace (často je uváděn pojem orchestrace). Potřebují logický mozek, který řídí celý proces, vyhledává informace, ukládá je do paměti a spouští další nástroje. Tímto mozkem celé operace je právě CPU.