Neuro-symbolische AI ​​kan machines van gezond verstand voorzien

Heb je een sessie op de Data Summit gemist? Bekijk hier on-demand.

Onderzoek naar kunstmatige intelligentie heeft geweldige resultaten opgeleverd bij het oplossen van specifieke toepassingen, maar we zijn nog lang niet het soort AI-systemen voor algemene doeleinden waar wetenschappers al tientallen jaren van dromen.

Een van de oplossingen die worden onderzocht om de barrières van AI te overwinnen, is het idee van neurosymbolische systemen die het beste van verschillende takken van informatica samenbrengen. In een lezing op de IBM Neuro-Symbolic AI Workshop legde Joshua Tenenbaum, hoogleraar computationele cognitieve wetenschap aan het Massachusetts Institute of Technology, uit hoe neurosymbolische systemen kunnen helpen om enkele van de belangrijkste problemen van huidige AI-systemen aan te pakken.

Van de vele hiaten in AI, richt Tenenbaum zich op één in het bijzonder: “Hoe gaan we verder dan het idee van intelligentie als het herkennen van patronen in gegevens en het benaderen van functies en meer in de richting van het idee van alle dingen die de menselijke geest doet als je de wereld modelleren, de dingen die je ziet uitleggen en begrijpen, je dingen voorstellen die je niet kunt zien maar zouden kunnen gebeuren, en ze omzetten in doelen die je kunt bereiken door acties te plannen en problemen op te lossen?”

Toegegeven, dat is een grote kloof, maar het overbruggen ervan begint met het verkennen van een van de fundamentele aspecten van intelligentie die mensen en veel dieren delen: intuïtieve fysica en psychologie.

Intuïtieve natuurkunde en psychologie

Onze geest is niet alleen gebouwd om patronen in pixels en geluidsgolven te zien, maar om de wereld te begrijpen door middel van modellen. Als mensen beginnen we deze modellen al vanaf de leeftijd van drie maanden te ontwikkelen door te observeren en te handelen in de wereld.

We splitsen de wereld op in objecten en agenten, en interacties tussen deze objecten en agenten. Agenten hebben hun eigen doelen en hun eigen modellen van de wereld (die misschien anders zijn dan de onze).

Zo blijkt uit meerdere onderzoeken van onderzoekers Felix Warneken en Michael Tomasello dat kinderen abstracte ideeën over de fysieke wereld en andere mensen ontwikkelen en toepassen in nieuwe situaties. In de volgende video realiseert het kind zich bijvoorbeeld door alleen observatie dat de persoon die de voorwerpen vasthoudt een doel voor ogen heeft en hulp nodig heeft bij het openen van de deur naar de kast.

Deze vermogens worden vaak ‘intuïtieve fysica’ en ‘intuïtieve psychologie’ of ‘theory of mind’ genoemd, en ze vormen de kern van gezond verstand.

“Deze systemen ontwikkelen zich vrij vroeg in de hersenarchitectuur die tot op zekere hoogte wordt gedeeld met andere soorten”, zegt Tenenbaum. Deze cognitieve systemen vormen de brug tussen alle andere delen van intelligentie, zoals de doelen van perceptie, het substraat van actieplanning, redeneren en zelfs taal.

AI-agenten moeten in staat zijn om hun acties te redeneren en te plannen op basis van mentale representaties die ze van de wereld en andere agenten ontwikkelen door middel van intuïtieve fysica en theory of mind.

Neuro-symbolische architectuur

Tenenbaum somt drie componenten op die nodig zijn om de kern te creëren voor intuïtieve fysica en psychologie in AI.

“We benadrukken een drievoudige interactie tussen neurale, symbolische en probabilistische modellering en gevolgtrekking”, zegt Tenenbaum. “We denken dat het die drievoudige combinatie is die nodig is om menselijke intelligentie en gezond verstand vast te leggen.”

De symbolische component wordt gebruikt om abstracte kennis voor te stellen en te redeneren. Het probabilistische gevolgtrekkingsmodel helpt causale verbanden tussen verschillende entiteiten vast te stellen, te redeneren over contrafeiten en ongeziene scenario’s, en om te gaan met onzekerheid. En de neurale component gebruikt patroonherkenning om sensorische gegevens uit de echte wereld in kaart te brengen voor kennis en om te helpen bij het navigeren door zoekruimten.

“We proberen de kracht van symbolische talen voor kennisrepresentatie en redeneren samen te brengen, evenals neurale netwerken en de dingen waar ze goed in zijn, maar ook met het idee van probabilistische gevolgtrekking, vooral Bayesiaanse gevolgtrekking of inverse gevolgtrekking in een causaal model om achteruit te redeneren van de dingen die we kunnen waarnemen naar de dingen die we willen afleiden, zoals de onderliggende fysica van de wereld, of de mentale toestanden van agenten’, zegt Tenenbaum.

De game-engine in het hoofd

Een van de belangrijkste componenten in het neuro-symbolische AI-concept van Tenenbaum is een physics-simulator die de uitkomst van acties helpt voorspellen. Natuurkundige simulatoren komen vrij vaak voor in game-engines en verschillende takken van versterkingsleren en robotica.

Maar in tegenstelling tot andere takken van AI die simulatoren gebruiken om agenten te trainen en hun lessen over te brengen naar de echte wereld, is het idee van Tenenbaum om de simulator te integreren in het gevolgtrekkings- en redeneringsproces van de agent.

“Daarom noemen we het de game-engine in het hoofd”, zegt hij.

pybullet stijve lichaamsfysica-simulatorFysische simulator stelt AI-agenten in staat om resultaten in de echte wereld voor te stellen en te voorspellen.

De physics-engine helpt de AI om de wereld in realtime te simuleren en te voorspellen wat er in de toekomst zal gebeuren. De simulatie moet gewoon redelijk nauwkeurig zijn en de agent helpen bij het kiezen van een veelbelovende manier van handelen. Dit is vergelijkbaar met hoe de menselijke geest ook werkt. Als we naar een afbeelding kijken, zoals een stapel blokken, hebben we een globaal idee of het bestand is tegen de zwaartekracht of omvalt. Of als we een set blokken op een tafel zien en gevraagd wordt wat er gebeurt als we de tafel een plotselinge stoot geven, kunnen we ruwweg voorspellen welke blokken zullen vallen.

We kunnen misschien niet het exacte traject van elk object voorspellen, maar we ontwikkelen een idee op hoog niveau van de uitkomst. In combinatie met een symbolisch inferentiesysteem kan de simulator worden geconfigureerd om verschillende mogelijke simulaties in een zeer hoog tempo te testen.

3D-scènes benaderen

Hoewel simulatoren een geweldig hulpmiddel zijn, is een van hun grote uitdagingen dat we de wereld niet waarnemen in termen van driedimensionale objecten. Het neuro-symbolische systeem moet de positie en oriëntatie van de objecten in de scène detecteren om een ​​geschatte 3D-weergave van de wereld te creëren.

Er zijn verschillende pogingen gedaan om pure deep learning te gebruiken voor detectie van objectpositie en pose, maar hun nauwkeurigheid is laag. In een gezamenlijk project creëerden MIT en IBM “3D Scene Perception via Probabilistic Programming” (3DP3), een systeem dat veel van de fouten oplost waar pure deep learning-systemen in vallen.

3DP3 neemt een afbeelding en probeert deze uit te leggen door middel van 3D-volumes die elk object vastleggen. Het voert de objecten in een symbolische scènegrafiek die de contact- en ondersteuningsrelaties tussen hen specificeert. En dan probeert het de originele afbeelding en dieptekaart te reconstrueren om te vergelijken met de grondwaarheid.

3D-scèneperceptie via probabilistische programmering (3DP3)3D Scene Perception via Probabilistic Programming (3DP3) maakt gebruik van neurale netwerken, symbolische inferentie en probabilistische modellen om 3D-representaties van afbeeldingen te creëren (bron: arXiv).

Nadenken over oplossingen

Zodra de neuro-symbolische agent een fysica-engine heeft om de wereld te modelleren, zou hij in staat moeten zijn om concepten te ontwikkelen die hem in staat stellen op nieuwe manieren te handelen.

Mensen (en soms dieren) kunnen bijvoorbeeld leren een nieuw gereedschap te gebruiken om een ​​probleem op te lossen of uitvinden hoe ze een bekend object opnieuw kunnen gebruiken voor een nieuw doel (bijvoorbeeld een steen gebruiken in plaats van een hamer om een ​​spijker in te slaan).

Hiervoor ontwikkelden Tenenbaum en zijn collega’s een fysica-simulator waarin mensen objecten zouden moeten gebruiken om problemen op nieuwe manieren op te lossen. Dezelfde engine werd gebruikt om AI-modellen te trainen om abstracte concepten over het gebruik van objecten te ontwikkelen.

mensen dieren hulpmiddel gebruik physics simulatorMensen en dieren kunnen intuïtief nieuwe hulpmiddelen vinden om op nieuwe manieren te gebruiken (bron: PNAS)

“Het is belangrijk om strategieën op een hoger niveau te ontwikkelen die in nieuwe situaties kunnen worden overgedragen. Dit is waar de symbolische benadering centraal staat”, zegt Tenenbaum.

Mensen kunnen bijvoorbeeld abstracte concepten zoals “hamer” en “katapult” gebruiken en deze gebruiken om verschillende problemen op te lossen.

“Mensen kunnen deze abstracte concepten vormen en overbrengen naar situaties van dichtbij en veraf. We kunnen dit modelleren door middel van een programma dat deze concepten symbolisch kan beschrijven”, zegt Tenenbaum.

In een van hun projecten konden Tenenbaum en zijn AI-systeem een ​​scène ontleden en een probabilistisch model gebruiken dat een stapsgewijze reeks symbolische instructies produceert om natuurkundige problemen op te lossen. Om bijvoorbeeld een object op een bord te gooien, kon het systeem erachter komen dat het een groot object moest vinden, het hoog boven het andere uiteinde van het bord moest plaatsen en het moest laten vallen om een ​​katapulteffect te creëren.

katapult concept

Fysiek geaarde taal

Tot nu toe, terwijl we veel spraken over symbolen en concepten, was er geen sprake van taal. Tenenbaum legde in zijn toespraak uit dat taal diep geworteld is in de onuitgesproken gezond verstand kennis die we verwerven voordat we leren spreken.

Intuïtieve fysica en theory of mind ontbreken in de huidige natuurlijke taalverwerkingssystemen. Grote taalmodellen, de momenteel populaire benadering van natuurlijke taalverwerking en -begrip, proberen relevante patronen tussen woordreeksen vast te leggen door zeer grote tekstcorpora te onderzoeken. Hoewel deze methode indrukwekkende resultaten heeft opgeleverd, kent ze ook grenzen als het gaat om het omgaan met dingen die niet worden weergegeven in de statistische regelmatigheden van woorden en zinnen.

“Er zijn enorme vorderingen gemaakt in grote taalmodellen, maar omdat ze geen basis hebben in fysica en theory of mind, zijn ze in sommige opzichten vrij beperkt”, zegt Tenenbaum. “En je kunt dit zien in hun beperkingen in het begrijpen van symbolische scènes. Ze hebben ook geen gevoel voor natuurkunde. Werkwoorden verwijzen vaak naar causale structuren. Je moet counterfactuals kunnen vastleggen en ze moeten probabilistisch zijn als je een oordeel wilt vellen.”

De bouwstenen van gezond verstand

Tot dusverre bieden veel van de succesvolle benaderingen in neuro-symbolische AI ​​de modellen voorkennis van intuïtieve fysica, zoals dimensionale consistentie en translatie-invariantie. Een van de belangrijkste uitdagingen die nog moeten bestaan, is het ontwerpen van AI-systemen die deze intuïtieve natuurkundige concepten leren zoals kinderen dat doen. De leerruimte van fysica-engines is veel gecompliceerder dan de gewichtsruimte van traditionele neurale netwerken, wat betekent dat we nog steeds nieuwe leertechnieken moeten vinden.

Tenenbaum bespreekt ook de manier waarop mensen bouwstenen van kennis ontwikkelen in een paper met de titel ‘Het kind als een hacker’. In de paper gebruiken Tenenbaum en zijn co-auteurs programmeren als een voorbeeld van hoe mensen oplossingen verkennen in verschillende dimensies, zoals nauwkeurigheid, efficiëntie, bruikbaarheid, modulariteit, enz. Ze bespreken ook hoe mensen stukjes informatie verzamelen en deze tot nieuwe symbolen ontwikkelen en concepten en leer ze vervolgens te combineren om nieuwe concepten te vormen. Deze onderzoeksrichtingen kunnen helpen de code van gezond verstand in neuro-symbolische AI ​​te kraken.

“We willen een routekaart bieden voor het bereiken van de visie van nadenken over wat het menselijk gezond verstand vanaf het begin onderscheidend en krachtig maakt”, zegt Tenenbaum. “In zekere zin is het een van AI’s oudste dromen, teruggaand op Alan Turing’s oorspronkelijke voorstel voor intelligentie als berekening en het idee dat we een machine zouden kunnen bouwen die intelligentie op menselijk niveau bereikt door als een baby te beginnen en het als een kind te onderwijzen . Dit is voor een aantal van ons inspirerend geweest en wat we proberen te doen is de bouwstenen daarvoor bedenken.”

Ben Dickson is een software-engineer en de oprichter van TechTalks. Hij schrijft over technologie, zaken en politiek.

Dit verhaal verscheen oorspronkelijk op Bdtechtalks.com. Auteursrecht 2022

De missie van VentureBeat is om een ​​digitaal stadsplein te zijn voor technische besluitvormers om kennis op te doen over transformatieve bedrijfstechnologie en transacties. Leer meer

This post Neuro-symbolische AI ​​kan machines van gezond verstand voorzien
was original published at “https://venturebeat.com/2022/03/18/neuro-symbolic-ai-could-provide-machines-with-common-sense/”