V.Eindopdracht: Leren is TraceLink Repareren

A. Het serial lesion effect

Medici was het al lang geleden opgevallen dat een langzame beschadiging aan de hersenen minder effect heeft op gedrag dan een snelle beschadiging – zelfs als de langzame beschadiging uiteindelijk resulteerde in een net zo grote schade. Een goed voorbeeld hiervan is de groei van een hersentumor: pas als de tumor een enorme omvang heeft bereikt en veel weefsel heeft vernietigd, begint de patiënt klachten te ontwikkelen. Dit effect is vertaald naar een experimentele opzet, waarbij snelle en langzame laesies bij dieren worden vergeleken. De snelle beschadiging wordt gerepresenteerd door één grote laesie, de langzame door een serie van kleine laesies. Vandaar de naam ‘Serial Lesion Effect’. Voor de vergelijkbaarheid moeten de kleine beschadigingen samen natuurlijk wel evenveel hersenweefsel omvatten als de ene grote laesie.

Het Serial Lesion Effect is voor verscheidene hersengebieden in verschillende dieren gevonden. Bijvoorbeeld bij de rat in de somatosensorische cortex, hippocampus, reticulaire formatie, frontale cortex en amygdala, en bij delen van de visuele cortex en somatosensorische cortex van de aap. Van verschillende variabelen is bekend dat ze het Serial Lesion Effect beïnvloeden. Dit zijn leeftijd (hoe jonger hoe groter het effect; Corwin, Nonneman et al. 1981), tijd tussen de verschillende laesies (hoe langer de tussenperiode, hoe groter effect; Gavin and Isaac 1986), de hoeveelheid van sensorische stimulatie waar een subject aan is blootgesteld gedurende de tijd tussen de laesies -hieronder valt ook training (Corwin et al., 1981; Finger & Stein, 1982; Scheff, Wright, Morgan, & Bowers, 1977), het type hersendeel (Finger et al., 1982), temperatuur (proefdieren met seriële laesie presteren slechter onder koude omstandigheden; Bell et al., 1981) en de volgorde van beschadiging van de verschillende hersendelen (Curtis & Nonneman, 1977; Finger et al., 1982).

Er zijn verschillende verklaringen voor het Serial Lesion effect. Twee prominente zijn de ‘reduced deficit’- en ‘serial recovery’-hypothese. De eerste houdt in dat de eerste kleine laesie de hersenen al voorbereidt op een volgende laesie, ongeveer zoals een inenting voorbereidt tegen bijvoorbeeld een virusinfectie. De virussen in de prik zijn dood of kreupel en maken je niet ziek, maar ze bereiden het immuunsysteem wel voor op het echte virus. Volgens de reduced-deficit hypothese zal een tweede laesie daarom minder effect hebben op gedrag dan een eerste laesie. De tweede verklaring legt de nadruk op herstel dat plaatsvindt tussen de verschillende laesies, waarbij herstel makkelijker wordt geacht als de laesies kleiner zijn.

Bepaalde hemisferische lesies, waarbij een regio in één van beide hemisfeer wordt beschadigd en niet in de ander, hebben onafhankelijke contralaterale effecten (bij een unilaterale laesie in de motorische cortex valt bijvoorbeeld een deel van de spieren aan de andere kant van het lichaam uit). Als nu eerst een regio in de ene hemisfeer wordt beschadigd, en na enige tijd dezelfde regio in de andere hemisfeer, blijken de gevolgen van beide laesies aanvankelijk even ernstig te zijn. Na een gegeven periode verminderen de effecten van beide laesies echter (Castro de & Zrull, 1988). De reduced deficit hypothese voorspelt dat een tweede laesie, in vergelijking met de eerste laesie, minder grote gevolgen zou hebben, en is dus inconsistent met dit resultaat. Het resultaat is niet inconsistent met de andere verklaring; dat er pas na enige tijd herstel optrad, duidt net op die serial-recovery hypothese.

We zullen er verder vanuit gaan dat de serial recovery hypothese de juiste is. Wat dan interessant wordt, is uitzoeken wat voor mechanismen tijdens de tijd tussen de operaties ten grondslag liggen aan herstel.

B. Voorgesteld mechanisme

Leren is repareren

Wat zou dat herstel tussen twee operaties kunnen veroorzaken waar de ‘serial recovery’-hypothese van uit gaat? Stel, voor het gemak, dat het gedrag dat getest wordt afhangt van 1 bepaalde representatie (of 1 conglomeraat van representaties). Bij een grote laesie is die representatie geheel verloren, en dat is waarom het dier niet meer de taak kan volbrengen. Als we twee kleine laesies maken die samen even groot zijn als de grote laesie, zou de hele representatie ook weg moeten zijn. Toch kan het dier het gedrag nog vertonen. Kennelijk gebeurt er iets tussen de twee kleine laesies, herleren, reorganisatie, dat ervoor zorgt dat de representatie niet helemaal verdwenen is. De representatie moet gedeeltelijk verhuisd zijn naar een niet geledeerd deel van de cortex⁵.

Hoe gebeurt dat ‘verhuizen’? De vaakst genoemde verklaring is dat representaties continu herleerd worden – en is de oude plek niet meer aanwezig dan worden ze herleerd in een ander deel van de cortex (Murre, Griffioen, Dulk, & Robertson, subm.). Het herleren veroorzaakt, in zo’n geval, het repareren van de representatie (‘leren is repareren’⁶ is zelfs de slogan van een AiO-project aan deze faculteit). De representatie kan herleerd worden omdat het organisme opnieuw blootgesteld wordt aan de situatie waar de oorspronkelijke representatie in ontstond, of weer het gedrag vertoont dat in de representatie gecodeerd was. In dat geval kunnen we spreken van training. Het kan ook dat het herleren gebeurt vanuit het brein zelf: dat het brein zelf de representatie activeert, en gedurende deze reactivatie de representatie herleerd wordt. In dat geval wordt meestal gesproken van consolidatie. Consolidatie wordt meestal geassocieerd met slaap: vaak wordt verondersteld dat herinneringen in slow-wave-sleep (Squire & Alvarez, 1995; Wilson & McNaughton, 1994) of gedurende droomslaap (Robins & McCallum, 1999) gereactiveerd worden, en dan geleerd.

Knopen vs. verbindingen

Je kunt in een netwerk knopen lederen, en je kunt verbindingen lederen. Het herleren van patronen, boven beschreven en cruciaal voor het verklaren van het serial-lesioneffect, betekent verschillende dingen afhankelijk van of knopen dan wel verbindingen geledeerd worden.

Bij de laesie van verbindingen is het makkelijk wat telt als het herleren van het patroon: dit betekent het herstellen van verbindingen tussen knopen binnen het patroon.

Het ligt moeilijker bij de laesie van knopen. Knopen laten ‘herontstaan’ gaat in tegen het biologisch gegeven dat neuronen in volwassenen maar heel beperkt aangroeien, en als er al nieuwe knopen zouden ontstaan, dan nog zouden ze niet resurrecties zijn van de oude, geledeerde knopen. Daarom bestaat het herleren van een representatie uit het rekruteren door de representatie van nieuwe knopen. Als die nieuwe knopen verbonden raken met dezelfde input- en outputpatronen als de oude representatie, is er niets tegen om deze nieuwe knopen te beschouwen als deel van de representatie. Het rekruteren bestaat er dus uit dat de nieuwe, te rekruteren knopen actief zijn tegelijk met de representatie en zijn input- en outputpatronen. Zo kunnen verbindingen ontstaan tussen de nieuwe knopen en de representatie en, nog belangrijker, tussen de nieuwe knopen en de input- en outputpatronen.

Trainen vs. consolideren

Net werd er al gezegd dat het leren wat repareren veroorzaakt twee dingen kan betekenen: trainen of consolideren. Trainen is leren zoals dat meestal gebeurt in connectionistische netwerken: je zet het gewenste patroon in het netwerk (door knopen in het patroon actief te maken), en je past de gewichten aan het patroon aan. Zo gebeurt ook het ‘initieel leren’, het aan het begin van de simulatie leren van de patronen; initieel leren is dus gewoon het eerste trainen.

Consolidatie is ingewikkelder: de bedoeling bij consolideren is dat het netwerk zelf het patroon genereert dat geleerd moet worden. Meestal wordt in het netwerk een willekeurig patroon ingebracht. Vervolgens mag het netwerk een aantal iteraties lang vrij itereren (activatie updaten). Na de ‘vrije’ iteraties wordt het patroon dat dan actief is geleerd . De hoop is dat het netwerk zich ondertussen naar een attractor toe heeft bewogen, en dat die attractor één van de geleerde patronen is. Met andere woorden, dat één van de bestaande patronen extra geleerd wordt zonder dat inmenging van buitenaf nodig is.

C. Opdracht

Het netwerk dat je moet gebruiken

Het netwerk dat je moet gebruiken is een ‘TraceLink’-netwerk, d.w.z. een netwerk dat dezelfde knopen gebruikt als het TraceLink model (Murre & Meeter, subm.). Appendix 2 legt uit hoe je met het TraceLink-paradigma van Nutshell kunt werken. Voor de geïnteresseerde wordt in het tweede deel van deze appendix uitgelegd hoe deze knopen functioneren, en welke formules hun gedrag bepalen.

Het netwerk waarmee je aan de slag moet bestaat uit drie lagen: een inputlaag, een outputlaag en een middenlaag, associatielaag geheten. Dit netwerk moet een minimodel zijn voor het brein: sensorische gebieden zijn via associatiecortices verbonden met motorische gebieden. De in- en outputlaag zijn zo simpel mogelijk gehouden: ze bestaan uit een kolom knopen met een lengte gelijk aan het aantal patronen, en aan elk patroon is 1 knoop toegewezen. De associatielaag is vierkant, en veel groter dan de andere twee lagen. Patronen bestaan in deze laag uit een vast aantal willekeurige knopen.

De simulaties die je moet doen

De simulaties moeten uit de volgende vier fases bestaan:

• de fase van het aanmaken van het netwerk: zorg dat je een netwerk aanmaakt in overeenstemming met de aanwijzingen hierboven.

• de fase van het initieel leren: in deze fase wordt het model patronen aangeleerd

• de fase van de laesies en het herleren: in deze fase worden 1 of meerdere laesies aangebracht, en zijn er tussen de laesies en na de laesies ‘herleertrials’ waarin het model de patronen opnieuw kan leren.

• de testfase: alle patronen worden getest (je kunt na elke laesie testen, en in elk geval aan het eind van de simulatie).

Je moet het serieel laesie-effect onderzoeken in twee condities, die verschillen in of er in een herleertrial getraind wordt (=herleren van een specifiek patroon),of geconsolideerd (=herleren van een patroon dat vanuit een willekeurige beginstaat is bereikt). Verder moet je, om het serieel laesie-effect vast te kunnen stellen, in beide condities een simulatie doen met één grote laesie, en eentje met twee of meer kleine laesies. Zowel bij de ene grote laesie als bij de meerdere kleinere moet uiteindelijk de helft van de knopen van de associatielaag geledeerd worden (dit zal de bovenste helft zijn; zie uitleg ledeerprocedure in appendix 3). Je moet dus minstens vier simulaties uitvoeren:

• een grote laesie en trainen

• kleine laesies en trainen

• een grote laesie en consolideren

• kleine laesies en consolideren.

Om de simulaties vergelijkbaar te houden moeten er evenveel heerleertrials zijn in de condities met één grote laesie als in de condities met meerdere kleine laesies. M.a.w., een grote laesie moet door meer herleertrials gevolgd worden als een kleine laesie, zodat ze uiteindelijk bij hetzelfde aantal herleertrials uitkomen.

Bij het aanmaken van patronen kan je aangeven of het patroon over de hele associatielaag verdeeld is, of dat het patroon geconcentreerd is in een deel van de laag. Patronen kunnen of in de bovenste helft van de laag geconcentreerd zijn, of in de onderste helft. Zo kunnen laesies van de bovenste helft een groter effect hebben op sommige patronen dan op andere. Zorg ervoor dat minstens 1 patroon geheel of grotendeels geconcentreerd is in de helft van de laag die geledeerd wordt (anders hoeft het patroon namelijk helemaal niet te lijden onder de laesies).

Het script dat je moet schrijven

Omdat dit de eindopdracht is moet je nu het script geheel zelf schrijven. Het enige wat wij leveren is een frame dat de workspace opent en het netwerk aan maakt. Verder staan er, als voorbeeld, de aanroepen voor de diverse subprocedures die we voor jullie geschreven hebben. Die subroutines zijn:

• een initieel leren- / patroonaanmaakroutine.

• een trainroutine

• een consolideerroutine

• een laesieroutine

• een testroutine

De aanroepen voor deze subroutines moet je op de juiste plaats zetten, vergezeld van de juiste argumenten. Je kunt meerdere tests doen om door de tijd te volgen hoe de patronen zich ontwikkelen. Bovendien kan je de hele simulatie meerdere keren doen. Het is altijd zinnig om je resultaten te repliceren, dus zet de constante die het aantal replicaties regelt in ieder geval op 2. Wat de constantes zijn, hoe je de subroutines moet aanroepen, en hoe die ongeveer werken, wordt uitgelegd in appendix 3. Als je klem komt te zitten of er dingen onduidelijk zijn, schroom niet ons te mailen.

Wat je moet inleveren

Ten eerste willen we graag de Excel file ontvangen met daarin de code voor de simulaties. Verder dien je een verslagje (3-4 A4) in te leveren met in ieder geval het volgende:

• een inleiding met in je eigen woorden wat je gaat doen en waarom, en verantwoording voor eventuele keuzes die je gemaakt hebt.

• een methode-sectie: een beschrijving van alle simulaties, met wat je precies hebt gedaan.

• een resultaten-sectie: een beschrijving van de resultaten van de simulaties, met een gepaste figuur.

• een discussie-sectie, met je conclusies en een kritische bespreking van je werk.

!!!!! DENK AAN DE DEADLINE !!!!!