Wyniki wyszukiwania - BazTech

Ograniczanie wyników

2 2022

Znaleziono wyników: 2

Liczba wyników na stronie

Wyniki wyszukiwania

Sortuj według:

Ogranicz wyniki do:

Towards a very fast feedforward multilayer neural networks training algorithm

Bilski Jarosław, Kowalczyk Bartosz, Kisiel-Dorohinicki Marek, Siwocha Agnieszka, Żurada Jacek

Journal of Artificial Intelligence and Soft Computing Research

2022

Vol. 12, No. 3

181--195

This paper presents a novel fast algorithm for feedforward neural networks training. It is based on the Recursive Least Squares (RLS) method commonly used for designing adaptive filters. Besides, it utilizes two techniques of linear algebra, namely the orthogonal transformation method, called the Givens Rotations (GR), and the QR decomposition, creating the GQR (symbolically we write GR + QR = GQR) procedure for solving the normal equations in the weight update process. In this paper, a novel approach to the GQR algorithm is presented. The main idea revolves around reducing the computational cost of a single rotation by eliminating the square root calculation and reducing the number of multiplications. The proposed modification is based on the scaled version of the Givens rotations, denoted as SGQR. This modification is expected to bring a significant training time reduction comparing to the classic GQR algorithm. The paper begins with the introduction and the classic Givens rotation description. Then, the scaled rotation and its usage in the QR decomposition is discussed. The main section of the article presents the neural network training algorithm which utilizes scaled Givens rotations and QR decomposition in the weight update process. Next, the experiment results of the proposed algorithm are presented and discussed. The experiment utilizes several benchmarks combined with neural networks of various topologies. It is shown that the proposed algorithm outperforms several other commonly used methods, including well known Adam optimizer.

Sztuczna inteligencja : skąd przyszła i dokąd zmierza

Żurada Jacek

Elektronika : konstrukcje, technologie, zastosowania

2022

Vol. 63, Nr 8

6--10

Rewolucja technologiczna jaką niesie ze sobą sztuczna inteligencja (AI) jest istotnie różna od wcześniejszych rewolucji przemysłowych, opartych na klasycznej inżynierii. Uwalnia bowiem siły wytwórcze spod kontroli człowieka i eliminuje go z łańcucha decyzyjnego. W artykule dokonano przeglądu podstawowych pojęć i założeń naukowych sztucznej inteligencji opartej na uczeniu maszynowym i zaawansowanych sieciach neuronowych. Omawia się genezę i katalizatory rozwoju tej dziedziny w dwu ostatnich dekadach a także dyskutuje zarówno jej szczególnie spektakularne osiągnięcia jak też i niektóre ograniczenia. Jednocześnie jednak z coraz liczniejszymi pożytkami tej rewolucji i doskonaleniem jej produktów i oferty społecznej, narastają zagrożenia zarówno dla autonomii jednostek, jak i dla całych społeczeństw korzystających z dobrodziejstw AI.

The technological revolution brought about by artificial intelligence is significantly different from the previous industrial revolutions based on classical engineering. It frees the productive forces from human control and eliminates humans from the decision-making chain. The article reviews the basic concepts and scientific assumptions of artificial intelligence based on machine learning and advanced neural networks. The genesis and catalysts for the development of this field in the last two decades are discussed, as well as its particularly spectacular achievements as well as some of its limitations. At the same time, however, with the increasing benefits of this revolution and the improvement of its products and social offer, the threats both to the autonomy of individuals and to entire societies benefiting from AI are growing.