Tsitaadid audioraamatust «Ключевые идеи книги: Перезагрузка ИИ. Создание искусственного интеллекта, которому можно доверять. Гэри Маркус, Эрнест Дэвис»
1. Глубокое обучение непрозрачно, ограниченно, неэффективно, если работает с минимумом данных и не умеет связывать их в целостную картину. Глубокое не значит умное, речь всего лишь о количестве нейронных слоев в сети, а не о полноте осмысления мира.
Обучение компьютеров неизбежно предполагает, что им нужно учиться самостоятельно: нереально вручную кодировать все, что нужно знать машинам
2. Весь технологический прогресс направлен на то, чтобы создавать сравнительно неразумные машины, выполняющие довольно узкие задачи и полагающиеся на слепые корреляции данных. Выгодно для Facebook и Google, невыгодно для всех нас.
Корректировку ошибок нейросети уместнее сравнить не с правкой ошибочного кода, а, скорее, с корректировкой побочных симптомов нового лекарства, на которое организм может отреагировать как угодно
