CEO-ja i Microsoft, Satya Nadella, është drejtuesi i fundit i një gjiganti teknologjik që flet hapur për rreziqet e inteligjencës artificiale. Në një postim të gjatë në X, ai tha se është koha të «rishikohet arkitektura e besimit» të sistemeve të AI.
Propozimi në katër pika
- Ndarja e modelit nga sistemi drejtues («harness»): modeli i AI duhet të jetë i ndarë nga sistemi që i organizon dhe i drejton detyrat.
- Kontrolle të jashtme: masat mbrojtëse nuk duhet të jenë brenda vetë modelit, por jashtë tij, ku nuk mund të anashkalohen.
- Gjurmë të pandryshueshme: çdo veprim i rëndësishëm i modelit duhet të dokumentohet me prova që lexohen nga njerëzit dhe që nuk mund të manipulohen.
- Frena e emergjencës: një person i autorizuar duhet të ketë gjithmonë mundësinë ta ndalojë ose ta fikë modelin në mes të një detyre.
«Duhet të supozojmë që një model është i komprometuar dhe ta izolojmë që në fillim. Mendojeni si një frenë emergjence», shkroi Nadella.
Pse tani?
Deklarata vjen në një kohë kur kompanitë kryesore të AI pranojnë gjithnjë e më shpesh raste kur duket se kanë humbur kontrollin mbi modelet e tyre, sidomos me agjentët e AI që veprojnë vetë në emër të përdoruesit. Pak kohë më parë, edhe CEO-ja i Anthropic, Dario Amodei, publikoi një plan për zhvillim më të kujdesshëm të AI-së.
«Super Intelligence» në vend të «AI»
Postimi u vu re edhe për një arsye tjetër: Nadella e quajti teknologjinë vazhdimisht «Super Intelligence». Ky është termi që administrata Trump po kërkon të zëvendësojë «inteligjencën artificiale», me një urdhër ekzekutiv që e detyron administratën federale ta përdorë. Elon Musk, Marc Benioff i Salesforce dhe Jensen Huang i Nvidia e kanë përqafuar tashmë termin e ri. Sipas The Verge, kjo tregon se sa shumë po përpiqet Silicon Valley të ruajë marrëdhënie të mira me Shtëpinë e Bardhë.
Pavarësisht emrit, ideja e Nadella-s, që njeriu duhet të ketë gjithmonë fjalën e fundit, është një nga parimet më të pranuara në debatin për sigurinë e AI-së.
