Как раз это - моя больная мозоль.
Я работаю с 8-битными контроллерами. Например, маленький "думатель" принимает сигналы дачика координатного стола и делает ШИМ-ом сигнал на двигатель (замыкает обратную связь). А программу движения получает с компа. И таких несколько (как и координат). Это не научная работа, а конкретное железо, предназначенное для выпуска. Цены имеют значение.
Сегодня этот "думатель" стоит ~1.5$, и переходить на ~100$ (32-битный парень) особого желания нет. Тем более, что принципиально ресурсов быстродействия и памяти хватает и у 8-битного. И, вообще-то, скорость крутых не бесплатна - это энергопотребление, количество электроники вокруг, как следствие - надежность.
Долго возился с C++ от IARsystems. Сделал вывод, что по оптимизации они покруче Borland-а будут. Но все равно - это лажа.
Объяснить компилятору, что прибавить к int-у произведение двух байтов - это всего три команды, невозможно.
Хотя, в принципе, в конструкции byte1*int(byte2)+Int1 информации достаточно для оптимизации до трех команд ассемблера.
Просто с головой не все впорядке.
Вы как-то уже упоминали что-то похожее: "...зачем писать круто и оптимально, если можно проще и тупее - все равно продаваться будет". Это я про разработчиков компиляторов.
Думаю, дело не в ИИ, а в тех, кто его применяет. Я, например, шахматную программу обыграть не смогу. А промышленные применения ИИ (тоже самое про автоматизированную разводку п/плат) вряд ли дотягивают до 3-го шахматного разряда.

Ну и совсем философская фраза. Всегда можно найти более лучшее применение ресурсов железа, чем прикрывать этими ресурсами недалекость разработчиков soft-а.