философ, которая учит ai быть хорошим
обучение модели в anthropic
большинство людей думают что ai создают инженеры. пишут код, обучают модели на данных, настраивают параметры. это правда, но этим не ограничевается.
в anthropic есть человек, чья работа не имеет отношения к коду. аманда аскелл — философ. ее задача звучит просто и почти абсурдно в контексте технологической компании стоимостью 350 миллиардов долларов: научить claude быть хорошим.
откуда берется “душа” модели
аскелл выросла в небольшом шотландском городке, читала толкина и кафку, в школе специально опаздывала на уроки — потому что наказанием было отвечать на сложные философские вопросы, а ей это нравилось. изучала философию в оксфорде, защитила диссертацию в нью-йоркском университете — о том, какие проблемы возникают для этических теорий если вселенная содержит бесконечное количество людей. потом пришла в openai, ушла оттуда когда компания начала ставить возможности выше безопасности, и оказалась в anthropic в самом начале его существования.