Abstract
One of the ways to reduce the computational error of computer simulation results is the use of software tools implemented in specialized libraries of high-precision arithmetic of modern universal high-level programming languages, which is associated with a significant increase in the duration of the computational experiment. This paper is devoted to the study of the degree of influence of a given computational accuracy on the speed of the software implementation of a method for solving a SLAE of a different order and with different digit capacity of coefficients using modern means of high-precision computation of the Java language.
Highlights
Одним з напрямків зниження обчислювальної похибки результатів комп'ютерного моделювання є використання програмних засобів, реалізованих в спеціалізованих бібліотеках високоточної арифметики сучасних універсальних мов програмування високого рівня, що пов'язано із значним збільшенням тривалості обчислювального експерименту
Formulation of the problem The modern development of computer technology and computer modeling practically does not leave room for expensive and difficult to carry out physical experiments
In calculations with limited bit depth, a rounding error can occur at each calculation step
Summary
Одним з напрямків зниження обчислювальної похибки результатів комп'ютерного моделювання є використання програмних засобів, реалізованих в спеціалізованих бібліотеках високоточної арифметики сучасних універсальних мов програмування високого рівня, що пов'язано із значним збільшенням тривалості обчислювального експерименту. In calculations with limited bit depth (and most modern computing systems are built on the basis of CPUs that support 64-bit machine arithmetic of the IEEE-754 standard [1] with 53 digits of the mantis), a rounding error can occur at each calculation step. Analysis of recent research and publications One of the modern ways to improve the accuracy of calculations is the 128-bit IEEE-format, in which the mantissa field is expanded to 113 bits. A more common way to reduce computational error is to use software tools implemented in specialized libraries of high-precision arithmetic of modern high-level universal programming lan-. There is a fairly wide range of such tools, the most famous of which are the following
Sign-in/Register to view highlights & summary Sign-in/Register to access full text options 
Talk to us
Join us for a 30 min session where you can share your feedback and ask us any queries you have
Schedule a call
