AI-topp vill se obligatorisk ”kill switch”

AI-företag bör kunna tvingas ha en ”kill switch” som gör det möjligt att helt stänga av AI-system som blir för farliga, säger Anthropics medgrundare Jack Clark till BBC.¹

Anthropic har redan en sådan nödbroms, enligt Clark. Han anser att det kan behövas regler som både kräver att AI-bolagen har möjligheten och låter en oberoende tredje part kontrollera att den faktiskt fungerar.

Uttalandet kommer samtidigt som debatten om riskerna med allt kraftfullare AI-system intensifieras. Storbritanniens regering avvisade så sent som förra veckan idén om att införa krav på en sådan nödbroms, enligt BBC.