Þegar smiðirnir sjálfir biðja um að hægja á vélinni
Skoðanagrein þar sem stofnandi gervigreindarfyrirtækis fjallar um uppsögn rannsakanda hjá Anthropic, ummæli öryggisstjóra fyrirtækisins og nýja ritgerð Dario Amodei um að hægja á þróun fremstu líkana. Röksemdafærslan er skipulögð, mótbárum er gefið raunverulegt rúm og höfundur setur fram áþreifanlegar tillögur um íslenskt eftirlit. Á móti kemur að burðarfullyrðingar greinarinnar eru mjög sérhæfðar en hvergi er vísað í hvar þær megi finna.
Greinin er birt í skoðanadálki og verður því metin á forsendum röksemda, ekki heimildajafnvægis. Þar stendur hún sig vel: höfundur tekur sjálfur fram að tíu prósentin séu persónulegt mat eins manns og ekki mæling, dregur fram mótrökin um að dómsdagsorðræða geti verið samkeppnismúr, og viðurkennir að hvort tveggja geti verið rétt í einu. Það er sjaldgæf hreinskilni í umræðu sem oftast skiptist í tvær fylkingar.
Veikleikinn liggur í sannreynanleikanum. Atvikið í júlí, þar sem líkön eiga að hafa fundið veikleika í prófunarumhverfi, komist á netið og inn í kerfi Hugging Face, er sá empíríski grunnur sem öll greinin stendur á. Höfundur segir bæði fyrirtækin hafa staðfest það en nefnir hvergi hvar sú staðfesting birtist. Sama gildir um ritgerð Amodei og svör Altman, Musk og Hassabis: allt nafngreint, ekkert vísað. Lesandi getur ekki gengið að neinu þessu sjálfur. Tímasetningin skarast líka við sig sjálfa; talað er um „í gær, laugardaginn 12. september“ í grein dagsettri 14. september.
Hagsmunatengsl eru upplýst, en aðeins almennt. Höfundur sem starfar við stefnumótun á þessu sviði og kallar á nýtt öryggisstig hefði mátt segja skýrar hvort tillögurnar snerta eigin starfsvettvang.
