Naslov
Usklađivanje inteligentnih računalnih agenata korištenjem debate
(Artificial intelligence alignment using debate)

Autori
Dušić, Sandi

Vrsta, podvrsta i kategorija rada
Ocjenski radovi, diplomski rad, preddiplomski

Fakultet
Fakultet elektrotehnike i računarstva

Mjesto
Zagreb

Datum
09.07

Godina
2019

Stranica
30

Mentor
Domazet-Lošo, Mirjana

Neposredni voditelj
Brčić, Mario

Ključne riječi
generalna umjetna inteligencija ; sigurnost u umjetnoj inteligenciji ; usklađivanje umjetne inteligencije ; strojno učenje
(AGI ; AI safety ; AI alignment ; machine learning)

Sažetak
Generalna umjetna inteligencija je uzbudljiva tehnologija za koju raste zanimanje. Ona sa sobom nosi velike rizike zbog teškoće u definiranju funkcije vrijednosti. Potrebno je uskladiti funkciju vrijednosti čovječanstva i funkciju vrijednosti umjetnih agenata. Metoda debate provodi usklađivanje treniranjem agenata za igru inspiriranu debatom. Taj pristup ima obećavajuća teoretska svojstva i neprovjerene empirijske pretpostavke. Repliciran je jednostavan preliminarni eksperiment koji pokazuje da metoda debate rezultira iskrenim agentima u ograničenim uvjetima.

Izvorni jezik
Hrvatski

Znanstvena područja
Računarstvo

POVEZANOST RADA