Amodei var med på å starte og leder i dag KI-selskapet Anthropic. Han ser for seg at vi er inne i en kritisk overgangsfase der vi snart får tilgang til svært kraftig KI om 1–5 år. Amodei er optimistisk, men beskriver AI-utviklingen som en "teknologisk ungdomstid" – en overgangsperiode vi må gjennom på veien mot en konstruktiv og positiv fremtid.
Artikkelen skisserer fem hovedrisikoer:
- Autonomi
Faren for at "et land av genier i et datasenter" utvikler egne mål. Amodei foreslår "Constitutional AI" og tolkbarhet (interpretability) for å styre modellene mot menneskelige verdier. - Misbruk med tanke på å gjøre skade
Teknologien kan gjøre enkeltaktører i stand til å gjøre stor skade, som for eksempel ved å skape biovåpen. Mottiltakene er strenge sikkerhetsnivåer, klassifiserere som blokkerer farlig info, og lovgivning der en krever transparens. - Autoritært maktmisbruk
At stater bruker KI til totalitær kontroll. Amodei mener demokratier må opprettholde et forsprang, blant annet gjennom eksportkontroll på teknologi, som databrikker. - Økonomiske omveltninger
Massiv utskiftning av arbeidskraft og konsentrasjon av rikdom. Løsningen krever politiske inngrep, omfordeling og at selskapene pålegges samfunnsansvar. - Indirekte effekter
Eksistensielle spørsmål om menneskets formål i en verden der KI er overlegen på mange områder.
Ingen kommentarer:
Legg inn en kommentar
Kommentarer er svært velkommen. På grunn av problemer med spam må jeg imidlertid godkjenne kommentarer før de publiseres. Vanligvis skjer dette i løpet av noen timer.