freepascal.ru

есть языки с возможностью распределенного программирования (специальные конструкции для поддержки распараллеливания программы на несколько компьютеров) - например Erlang

стоит ли оно того?
стоит ли язык наворачивать настолько?

Безусловно.

Мне кажется, что порт CUDA - очень нужное решение.

но ведь это можно сделать в виде библиотеки
где граница между возможностью языка и наличием библиотек?

Огромная разница.

Реальная многозадачность поддерживаемая на уровне компиллятора означает отсутствие проблем с распараллеливанием вычислительного процесса, с использованием блокировок, с обменом данными между потоками, за разделением памяти и так далее.

Например, динамические массивы могут быть реализованы через объекты, работающие с указателями, да что там говорить, строки - вечное проклятие Сишников, но согласитесь, ведь синтаксис ObjectPascal намного удобнее для чтения...