Sam Altman och Dario Amodei, leder från OpenAI och Anthropic, har varnat för de potentiella riskerna med AI och uppmanat världens ledare att samarbeta för att säkerställa en säker användning av tekniken. Båda har deltagit i möten med FN:s säkerhetsråd under veckan, där de har betonat behovet av internationella regleringar. Då AI-utvecklingarna snabbt ökar, har de kallat på en gemensam ansats för att undvika skadliga konsekvenser.
Amodei och Altman har även publicerat nya AI-modeller som är mer effektiva och säkrare, men de har påpekat att det är viktigt att undvika att tekniken används på ett skadligt sätt. I samband med detta har Trump officiellt omnamnat AI till "super intelligens" eller SI, vilket har väckt debatt. Detta visar att diskussionen kring AI:s säkerhet fortsätter att vara relevant på global nivå.
Mötet i FN har också varit en plattform för andra frågor, såsom Iran:s roll i framtiden för AI. Detta har lett till en ökad uppmärksamhet på hur AI kan påverka internationella relationer. Samtidigt har flera AI-labbar visat på snabba utvecklingar, vilket gör behovet av internationella regleringar ännu tydligare.
