Kalendarium Rozwoju Systemów Obliczeniowych AI (1956–2024)

Wczesny etap komputeryzacji inteligencji zakładał, że procesy wnioskowania można w całości zdefiniować za pomocą aksjomatów matematycznych oraz baz wiedzy zapisanych w postaci drzew decyzyjnych. Systemy takie jak Dendral czy Mycin operowały na silnikach dedukcyjnych, które przeszukiwały przestrzeń stanów metodami BFS (Breadth-First Search) i DFS (Depth-First Search). Metodologia ta wymagała manualnego wprowadzania wiedzy przez inżynierów wiedzy (Knowledge Engineers).

Podstawowym ograniczeniem tego podejścia była całkowita niezdolność do generalizacji w warunkach niepełnej informacji oraz brak odporności na dane zniekształcone. Próba zaimplementowania rozpoznawania mowy lub analizy obrazu poprzez ręcznie pisane deskryptory geometryczne zakończyła się kryzysem finansowania, znanym w literaturze technicznej jako pierwsza zima AI.

Lata dziewięćdziesiąte przyniosły fundamentalną zmianę metodologiczną: inżynierowie odeszli od sztywnych reguł deterministycznych na rzecz teorii prawdopodobieństwa i uczenia maszynowego. Kluczowym narzędziem stały się Maszyny Wektorów Nośnych (SVM), Ukryte Modele Markowa (HMM) oraz algorytmy losowych lasów decyzyjnych (Random Forests). W tym okresie powstały fundamenty pod dzisiejsze moduły przetwarzania dźwięku i ekstrakcji fonemów.

Zamiast uczyć komputer reguł gramatycznych, systemy statystyczne przetwarzały korpusy tekstowe metodą n-gramów, szacując prawdopodobieństwo wystąpienia kolejnego tokenu w sekwencji. Podobny skok nastąpił w przetwarzaniu sygnałów wizyjnych, gdzie algorytmy Viola-Jones oraz deskryptory SIFT pozwoliły na stabilną detekcję obiektów przy umiarkowanym zapotrzebowaniu na moc obliczeniową CPU.

„Modele statystyczne udowodniły, że aproksymacja oparta na masowych rozkładach prawdopodobieństwa przewyższa najbardziej wyrafinowane bazy wiedzy oparte na ontologiach i strukturach czysto logicznych.”

Rok 2012 wyznaczył przejście do ery masowego wykorzystania procesorów graficznych (GPU) do treningu wielowarstwowych sieci neuronowych. Wprowadzenie w 2017 roku architektury Transformer i mechanizmu Multi-Head Self-Attention wyeliminowało ograniczenia modeli rekurencyjnych (RNN/LSTM) w zakresie równoległości przetwarzania długich kontekstów. Zjawisko to umożliwiło rozwój nowoczesnych architektur RAG, szczegółowo opisanych w materiale analiza dokumentacji.

Sformułowane przez Kaplana i zespół OpenAI prawa skalowania (Scaling Laws) wykazały, że strata testowa (cross-entropy loss) maleje zgodnie z prawem potęgowym w funkcji trzech zmiennych: liczby parametrów modelu, rozmiaru korpusu treningowego oraz całkowitego budżetu obliczeniowego (FLOPs). Równolegle nastąpiła rewolucja w syntezie obrazu, gdzie sieci GAN zostały zastąpione przez procesy odszumiania dyfuzyjnego, o czym traktuje przewodnik generowanie grafiki.