Anthropic претстави ран поглед во ИИ што сам се подобрува

Истражувач од програмата за соработници на Anthropic објави труд кој покажува како автоматизирани ИИ системи можат самостојно да ја подобрат усогласеноста на моделите. При тестирање на 10 репери за специфични несакани однесувања, системот успеал да ги подобри сите без да ги влоши вкупните перформанси. Според трудот, најдобриот автоматизиран метод ги надминува предлозите на искусни луѓе во рок од шест часа и чини околу 4 долари на час наспроти 150 долари за човек. Ова се смета за чекор кон рекурзивно самоподобрување на ИИ, иако авторите признаваат дека методот зависи од квалитетот на реперите.