Steve Wozniak, Elon Musk och mer än 1 000 andra stora namn har undertecknat ett öppet brev som kräver ett omedelbart sex månaders stopp för AI-tekniker som är kraftfullare än ChatGPT-4.
I år är året då artificiell intelligens som ChatGPT och Google Bard blev en stor trend. Även om alla AI-företag hänvisar till sina produkter som experiment eller faktiskt vissa betaversioner, är deras funktioner integrerade i många tjänster. Future of Life Institute efterlyser nu en "offentlig och verifierbar" paus som involverar "alla nyckelaktörer" på området. Om en sådan paus inte kan genomföras snabbt, bör regeringar gå in och införa ett moratorium.
Future of Life Institutes mål är att "styra transformativa teknologier för att gynna livet och styra dem bort från extrema risker i stor skala." Det ovannämnda brevet på 600 ord, som riktar sig till alla AI-utvecklare, säger att det är nödvändigt att ta ett uppehåll eftersom laboratorier för artificiell intelligens under de senaste månaderna gått utom kontroll och börjat utveckla och distribuera allt kraftfullare digitala hjärnor som ingen, inte ens deras skapare, kunde förstå, förutsäga eller på ett tillförlitligt sätt kontrollera.
Du kan vara intresserad av
"AI-labb och oberoende experter bör använda denna paus för att gemensamt utveckla och implementera en uppsättning delade säkerhetsprotokoll för design och utveckling av avancerad artificiell intelligens, som skulle vara strikt kontrollerad och övervakad av oberoende externa experter." meddelandet fortsätter. "Dessa protokoll bör säkerställa att systemen som följer dem är säkra bortom allt tvivel."
Detta innebär dock inte ett stopp för utvecklingen av artificiell intelligens i allmänhet, det borde bara vara en reträtt från den farliga kapplöpningen för allt större oförutsägbara black-box-modeller med framväxande kapacitet. Brevet undertecknades av 1 123 personligheter, såsom:
- Elon Musk, VD för SpaceX, Tesla och Twitter
- Steve Wozniack, medgrundare av företaget Apple
- Jan Tallinn, medgrundare av Skype
- Evan Sharp, medgrundare av Pinterest
