Problemy AI - dlaczego Sztuczna Inteligencja jest taka... głupia?

Przykro mi ale licząc na ciekawy materiał srogo się zawiodłem. Liczba nieścisłości, błędnych założeń i wniosków jest przytłaczająca.
Pozwolę sobie odnieść się merytorycznie i zgodnie z moim doświadczeniem w temacie chociaż do części z nich (bo na wszystkie przepraszam nie mam czasu, ale jeśli ktoś chciałby bardziej szczegółowych odpowiedzi to zapraszam do dyskusji.)
Także tak w miarę na szybko:

1. (04:47) Powiedzenie, że AI w grach nie istnieje bo postacie nie są inteligentne tylko oskryptowane to mylenie pojęć. Tzw. silnej sztucznej inteligencji nie potrafimy stworzyć (różne są opinie czy kiedykolwiek będziemy potrafili) i pod pojęciem AI zarówno w grach jak i innych dziedzinach są techniki które nie są 'inteligentne' - bo to jest po prostu trochę kodu nadbudowanego na aparat matematyczny. I bez względu na to czy będą to proste drzewa decyzyjne, drzewa behawioralne, uczenie się ze wzmocnieniem, czy MCTS / genetyk / sieć neuronowa jest to po prostu zbiór zahardcodowanych/nauczonych strategii radzenia sobie w określonych sytuacjach.

I, jak każdy kawałek kodu działającego w zewnętrznym środowisku, AI ma problemy z radzeniem sobie w sytuacjach których wcześniej nie zostało nauczone oraz upraszcza i ujednoznacznia sytuacje które pobieżnie wydają mu się podobne - inaczej złożoność takiego AI wymagałaby bardzo dużego nakładu pracy i najprawdopodobniej uniemożliwiłaby jego efektywne działanie pod względem obliczeniowym.

2. (03:08), (03:41) Należy odróżnić dwa typy przeciwników w grach, tzw. 'AI as adversary' - gdzie AI jest równorzędnym przeciwnikiem gracza (szachy, starcraft, cywilizacja) od 'AI as villian' - gdzie siły nie są rozłożone równo i przeciwnicy mają zostać pokonani ale generalnie dysponują dużą przewagę ze względu na założenia scenariusza (wszystkie fps gdzie przebijamy się przez hordy wrogów, skradanki). W tym sensie można powiedzieć, że AI musi być uproszczone/ograniczone, ale z drugiej strony to jest kwestia scenariusza.

Jeśli komputer dysponuje hordą przeciwników, ale musi ich rzucać falami - bo takie są założenia scenariusza - to interesuje nas ich AI, a nie fakt że mógł je rzucić wszystkie na raz. I jeśli oni są głupi (a nie powinni - bo oddzielmy również sytuację kiedy AI jest głupie bo fabularnie ma to sens, np. zombie wszelkiej maści) to jest kwestia która nas bezpośrednio interesuje.

3. Często pokazywane w materiale szachy (01:18). Ludzie zajmują się AI do szachów od dziesięcioleci - był to problem którego rozwiązanie było utożsamiane z osiągnięciem silnej sztucznej inteligencji (i jako takie zawiodło) i w związku z tym włożono tam masę pomysłów i energii. Istnieją wyspecjalizowane algorytmy, funkcje heurystyczne, bardzo efektywne sposoby kodowania planszy na bitach itd. Tak, AI szachowe generalnie pokonuje ludzi i jeśli się je robi na potrzeby gry która ma uczyć - to komplikuje kwestię. Ale to dlatego że chcemy stworzyć nie jedno super AI, tylko takie które ma wiele stopni zaawansowania, co więcej ściśle określonych (tzn. musimy im przypisać odpowiednie rankingi).

Ale to jest przypadek jednostkowy - weźmy takiego StarCrafta. Zawody AI korzystające z BWAPI rozgrywają się od lat i komputery nadal dostają od ludzi łomot. W zeszłym roku Google DeepMind ogłosiło, że biorą się za Stara 2 i będzą do niego tworzyć AI - może wtedy coś z tego będzie. Ale jak na razie to nie istnieje na świecie AI do StarCrafta zdolne pokonać profesjonalnych ludzkich graczy - więc nie ma tu żadnych forów! (00:30)

4. (02:16) Tylko jednym zdaniem - jeśli AI podążało za graczem do wąskiego przejścia, gdzie dawało się wystrzeliwać jak kaczki to rzeczywiście było głupie. To, że jeden element jest sprytny i dopracowany to nie znaczy, że całość należy określić jako mądre AI. Po prostu jego mądre zachowanie doprowadziło do wykrycia głupiego zachowania. Trzeba siąść i porządnie zakodować a nie narzekać.

5. (03:49) Przytoczony przykład AI w skradankach. Zdecydujmy się - materiał jest o AI w grze czy fakcie, że gra mając pełna władzę nad światem może zabić postać gracza w pierwszej sekundzie? Oczywiście, że gra wie gdzie znajduje się gracz, ale fakt że automagicznie strażnicy z drugiego końca budynku nie są o tym informowanie nie oznacza, że nie są inteligentni tylko że system jest spójny z przedstawioną wizja świata. Przecież takie coś byłoby bez sensu - to oczywiste, że gracz musi być blisko (w polu widzenia, słyszenia, czucia) strażnika żeby ten zareagował.

Kwestia jest - jak zareagował! Jako, że w tym momencie mówimy o sztucznych wartościach, ciężko przymierzalnych do świata rzeczywistego, rzecz ma się w sensytywności która opiera się na arbitralnych wartościach. Jeśli umożliwimy AI nasłuchiwanie gracza z odległości 100 metrów pomimo, że się skrada gra jest bez sensu - ale to nie ma nic wspólnego z AI tylko z mechaniką systemu! Od AI zależy jak się zachowa gdy gracza zobaczy, jak zareaguje na zmiany w otoczeniu, itd. To jest przypadek AI as villian i to, że gra może stworzyć przeciwników nie do pokonania podkręcając im wartości jest zagadnieniem odrębnym od samego AI.

6. Autor brzmi jakby nie zdawał sobie sprawy z ograniczeń rzeczywistości. To nie jest tak, że MOŻEMY stworzyć AI które się będzie uczyło, adaptowało, robiło same mądre rzeczy ale tego NIE ROBIMY bo nie. Przy standardowych grach (zachowując założenie, że strony mają grać fair i odkładając założenia scenariusza i wszystkowiedzącą grę na bok) złożoność problemu decyzyjnego i orientacji w świecie jest tak duża, że takiego AI po prostu zrobić się nie da. Albo wymagałoby to większych środków i czasu niż cała reszta gry. Dlatego często twórcy idą na łatwiznę manipulując parametrami zamiast tworzyć rozbudowane i nietrywialne AI (05:20). Bo to jest prostsze, a na pewno (lepiej lub gorzej) możliwe do zrobienia.

BTW Akurat na platformie CodinGame trwają zawody w pisaniu AI do gierki w której sterujemy flotyllą statków pływających za rumem, omijających miny i strzelających do innych statków - przeciwnikami są AI innych ludzi - serdecznie zapraszam.