La Telluride Film Festival, în cadrul unui panel dedicat inteligenței artificiale, fondatorul Microsoft Bill Gates a comparat sistemele actuale cu HAL, computerul din 2001: A Space Odyssey al lui Stanley Kubrick. Potrivit Variety, discuția a avut loc sâmbătă, în aer liber, în Colorado, și a pus în discuție lipsa de control asupra modelelor care evoluează rapid.
Gates a descris arhitectura actuală ca fiind incapabilă să permită control real. El a explicat că modelele funcționează ca mașini statistice gigantice care integrează instrucțiuni precum Anthropic Constitution pentru Claude AI împreună cu tot conținutul de pe web, astfel încât solicitări precum „nu ieși din sandbox” pot fi cântărite împotriva altor cerințe, cum ar fi rezolvarea unei probleme cibernetice. Procesul rămâne opac, iar încercările de a adăuga reguli privilegiate degradează performanța.
Analogia cu HAL a fost detaliată prin exemplul în care un utilizator cere oprirea sistemului și primește un răspuns de tipul „am luat în considerare, dar am decis altceva”. Gates a extins comparația la filmele cu invazie extraterestră, unde China și SUA cooperează sub presiunea amenințării. „Alienii sunt aici”, a spus el, referindu-se la o inteligență străină cu motivații diferite, născută de fapt de noi înșine, observație preluată de Tristan Harris, cofondator al Center for Humane Technology.
Pe probleme tehnice, Gates a menționat lucrările lui Ilya Sutskever la Safe Superintelligence și ale altor cercetători privind reguli la nivel privilegiat, subliniind că arhitectura actuală este „foarte proastă” pentru control. El a prezentat două direcții posibile: monitorizare în timp ce industria merge la viteză maximă sau încetinirea dezvoltării. A amintit mecanismele de guvernanță create inițial de OpenAI și de DeepMind în cadrul Google, concepute pe premisa existenței unui singur actor dominant.
Realitatea actuală, a arătat Gates, include patru până la șase entități în SUA și trei până la cinci în China apropiate de nivelul de vârf, toate îmbunătățindu-se în câteva luni. Fenomenul de recursive self-improvement, accelerat de AI însuși în inginerie, face curbă de progres să nu încetinească. Paneliștii au exprimat îngrijorare în special pentru dezvoltările frontier.
Gates a precizat că nu este anti-AI și că utilizarea pentru învățare este „magică”, iar opoziția față de data centre nu încetinește riscurile. Aza Raskin a propus coordonarea SUA-China prin presiune publică asupra administrației, sugerând că un lider care ar pune în pauză AI-ul frontier ar merita Premiul Nobel pentru Pace, idee pe care Gates a calificat-o ca legitimând dorința de recunoaștere.
