AI strachodajství

  • AI strachodajství

Properties1
tagsstrand-ethics

Generativní jazykové modely už teď jsou pro mnohé lidi užitečným nástrojem, který jim šetří čas a námahu.

Mnoho různých vln technologického pokroku s sebou historicky neslo stejné obavy a paniku. Tento strach je potom nadměrně zveličovaný jak z politických, tak ekonomických důvodů, o čemž výstižně píše např. psycholožka Orben.

Skeptici AI jsou potom uzemňováni několika různými způsoby, které mají naprosto stejný efekt: znemožňují diskuzi a kritiku. Dva ze způsobů, které vídám nejčastěji:

  1. Jazykové modely mění svět k lepšímu a je celkem jedno, co si o tom myslíš zrovna ty. Jsi jenom konzerva, co se nechce přizpůsobit, a cítíš se ohrožen. Přizpůsob se, nebo zhyň.
  2. Do tří měsíců se roj agentů pokusí o převzetí kritické internetové infrastruktury a s 10% pravděpodobností AI vyhubí lidstvo. Sice nikdo neví konkrétně jak, ale nějak se to stane.

Pokud se společnosti provozující jazykové modely jejich prostřednictvím dopouštějí trestných činů, měly by nést stejnou trestní odpovědnost, jako by trestné činy prováděly přímo. Žádná technologie se sama nerozhodne, že sama pustí. Stejně tak se jazykový model sám od sebe nerozhodne, že vyrobí virus. Vždy by mělo být prokazatelně dohledatelné, který člověk nese odpovědnost za provoz dané technologie.

Narativ “zhoubných agentů” je totiž pro společnosti vyvíjející a provozující LLM velmi výhodný. Odpoutává totiž pozornost od bezprostředně hrozících rizik masivní adopce AI, mezi něž například patří:

  1. enormní spotřeba fosilních paliv a dopad na životní prostředí,
  2. destabilizace finančních trhů,
  3. destabilizace pracovního trhu, zejména méně kvalifikované pracovní síly,
  4. eroze dovedností a znalostí,
  5. hromadění a koncentrace moci.

I v roce 2026 se nadále ukazuje, že užití AI má pro drtivou většinu podniků zanedbatelný dopad, zejména pro společnosti mimo technologickou sféru.

Zdroje