Денисова Э.В., Кучер А.В. Основы вычислительной математики

Учебное пособие. — СПб.: СПб ГУ ИТМО, 2010. — 164 с.Правила приближенных вычислений и оценка погрешностей при вычислениях.
Вычисление значений функции.
Решение нелинейных алгебраических уравнений.
Представление матриц и многомерных массивов на языках высокого уровня.
Решение систем линейных уравнений.
Приближение функций.
Дифференцирование и интегрирование.
Обыкновенные дифференциальные уравнения.
Оптимизация.
Быстрое преобразование Фурье.
Алгоритмы генерации случайных чисел с различными законами распределения.