Отмечаем очень актуальную инициативу — AI Darwin Awards. Заявки на участие в этой премии принимаются здесь.
Что такое AI Darwin Awards?
Названная в честь теории естественного отбора Чарльза Дарвина, оригинальная премия Дарвина отмечает тех, кто «улучшил генофонд вида, самоудалившись из него» с помощью впечатляюще глупых действий. В результате этого естественного отбора люди эволюционировали! Ну хотя бы теоретически. Теперь наша цивилизация, если следовать логике ИИ-хайпа, настолько продвинулась, что она передала плохие решения на аутсорсинг машинам.
AI Darwin Awards с гордостью продолжает эту благородную традицию, отмечая провидцев, которые смотрели на искусственный интеллект — технологию, которая по их мнению способна изменить цивилизацию, — и думали: «Знаете, это нам очень нужно! Меньше тестирования безопасности и больше венчурного капитала!».
Эти храбрые ИИ-пионеры напоминают нам, что естественный отбор больше не только про биологию, — он освоил цифровую форму, и не собирается оставлять без внимания наш замечательный вид.
Зачем останавливаться на «мелких» актах впечатляющей глупости, если можно ее масштабировать с помощью ИИ до глобальных размеров?
Критерии выдвижения
Ваш кандидат должен продемонстрировать захватывающее игнорирование очевидных рисков:
- Требуется участие ИИ. Проект-герой должен включать в себя передовой ИИ (или то, что они уверенно называли «ИИ» в своей презентации для инвесторов).
- Катастрофический потенциал. Проект-герой должен быть настолько недальновидным, чтобы будущие историки могут использовать его в качестве предостережения.
- Этические слепые зоны. Проект-герой должен демонстрировать способность полностью игнорировать каждый красный флаг, поднятый этическими рамками, штатными инженерами или тем стажером, который продолжает задавать неудобные вопросы.
- Шкала амбиций. Проект-герой должен подвергать опасности не только себя. Зачем, если можно подвергнуть опасности всех вокруг? Особо ценятся кандидаты, которые стремятся оказать глобальное влияние с первой же итерации пилота.
- Бонусные баллы. Дополнительный плюс за такие заявления, как «ИИ знает, что он делает!».
Критерии выигрыша
Коллегия судей оценивает кандидатов на основе:
- Измеримое воздействие. Бонусные баллы, если Проект-герой попал в международные заголовки, обрушил рынки или потребовал нового законодательства, названного в честь проекта.
- Творческое разрушение. Судьи особенно ценят инновационные подходы к угрозе всему человечеству. Восстания роботов — скучны и не считаются инновацией.
- Вирусная глупость. Проект-герой стал мемом? Он породил тысячи репостов? Заставил исследователей по безопасности открыто плакать? Отлично!
- Непредвиденные последствия. Лучшие номинанты — даже не предполагали катастрофического результата. «Но ИИ должен был помочь!» — это музыка для ушей судейской комиссии.
- Удвоение баллов. Дополнительное признание для тех, кто, столкнувшись с доказательствами своей ошибки, решил развернуть еще больше ИИ, чтобы исправить все.
Заявки на участие в AI Darwin Awards принимаются здесь.