Abstract
In this paper we discuss how systems with Artificial Intelligence (AI) can undergo safety assessment. This is relevant, if AI is used in safety related applications. Taking a deeper look into AI models, we show, that many models of artificial intelligence, in particular machine learning, are statistical models. Safety assessment would then have t o concentrate on the model that is used in AI, besides the normal assessment procedure. Part of the budget of dangerous random failures for the relevant safety integrity level needs to be used for the probabilistic faulty behavior of the AI system. We demonstrate our thoughts with a simple example and propose a research challenge that may be decisive for the use of AI in safety related systems.
Highlights
Необходимо присвоить им вес в соответствии с их важностью, что может быть затруднительно в больших пространствах и при наличии больших данных
Вклад авторов заключается в анализе систем с искусственным интеллектом как статистических моделей, анализ подхода к оценке безопасности таких систем и рассмотрении примера
Summary
В последние годы значительно вырос интерес к искусственному интеллекту (ИИ); сфера его применения также расширилась.
Talk to us
Join us for a 30 min session where you can share your feedback and ask us any queries you have