JellevanDijk.org

Om redenen die ik niet nader zal noemen (maar Nederland is een klein landje) ben ik weer eens op zoek gegaan naar een serie artikelen die ik schreef voor Kennislink. Een paar daarvan schreef ik samen met Nienke van Atteveldt, een inmiddels gerespecteerd cognitief neurowetenschapper. (Ja ja, ik weet het, maar ik kom er ook nog wel). De weblinks bleken niet meer te kloppen. Een soort blog-Alzheimer: dat de beschermlaag van de zenuwverbindingen tussen mijn weblog en de site van kennislink in de loop der jaren is afgesleten, omdat die verbindingen zo goed als niet gebruikt werden. (Use it or lose it, riepen ze altijd, die hersenwetenschappers). Alhoewel ik eigenlijk niet weet of er verband is tussen de progressie van Alzheimer en of je bepaalde verbindingen actief gebruikt of niet, maar dat kunnen we aan Nienke vragen, die weet dat soort dingen.

Ik zet gewoon de hele lijst hier nog even op een rij, opnieuw. Voor de liefhebber:

Met Nienke:

De biologie van denken taal en bewustzijn

Over de aansturing van de spieren

Van Nienke:

Spook-ledematen

Van mij:

Hoe je denkt te doen

Schetsen op je netvlies

Een hoofd vol weetjes

Popularity: 10% [?]

In Science staat deze week een bespreking van een mooi voorbeeld van wat de auteurs ‘pseudo-science’ noemen. Het gaat om het idee dat het beter is voor kinderen om gescheiden (M/V) onderwijs te krijgen. Dat schijnt nogal populair te zijn in onderwijsland, vooral in Amerika. Zowel de ‘klinische trials’ (het empirisch onderzoek op scholen) als ook de vertaalslag vanuit neuro-wetenschappelijk onderzoek naar ‘de betere onderwijsvorm’ zijn ongegrond.

Het empirisch onderzoek bevat allerlei standaard methodologische fouten. Bijv: de scholen die gescheiden onderwijs aanbieden hebben ook toelatings-examens, zijn dure prive-scholen, en de uitvallers van die scholen komen vervolgens weer op de ‘gewone’ scholen terecht, waarme deze scholen worden vergeleken. Selectie-bias heet dat: de twee condities verschillen op allerlei punten die niets met de onderzoeksvraag te maken hebben omdat de scholen niet ‘willekeurig’ aan de conditie “Single-Sex” of “Multi-Sex” education worden toegewezen. Daar waren dus 8 wetenschappers voor nodig om dat te onderzoeken en te concluderen. Elk tekstboek methoden begint zo ongeveer met deze vorm van pseudo-wetenschap.

Ernstiger misschien nog (omdat het subtieler is en omdat het brein enorm populair is op het moment) is de manier waarop experimentele resultaten uit hersenonderzoek 1-op-1 worden vertaald naar ‘wat dat betekent voor het onderwijs’. Er zijn verschillen tussen mannen en vrouwen, er zijn zelfs sexe-verschillen tussen hoe het brein leert, vertellen ons de neuro-wetenschappers. Maar wat betekent dat voor het onderwijs? Op welke manier bewijst dat, dat ’single-sex education’ beter is dan gemengd onderwijs? Dat bewijzen die resultaten helemaal niet, omdat de relatie tussen hersenprocessen en zoiets sociaal-cultureels als formeel onderwijs, uiterst complex is, en vooralnog goeddeels onbegrepen door cognitief neurowetenschappers.

Dit blogje is trouwens ook nog een mooi voorbeeld van hoe het niet moet: ik schrijf dit op basis van een paar sound-bites tijdens een radio-item, en ik heb het hele artikel niet gelezen (omdat ik geen abonnement heb op Science).

Popularity: 12% [?]

O no. They’re doing it again. There are people discussing whether or not the “Google car” is conscious. Apparently nobody stopped them short. It brings back good old memories about good old artificial intelligence, and all the moderner types (connectionism, Alife, behavior-based robotics, etc…).

So I was thinking, we can either answer this question from an ‘engineering’ perspective, or from a ‘philosophy of mind’ perspective.  The philosophical answer I already know: the car will never be conscious, no matter how many special features it has. There’s simply too many hurdles to take. (Frame problem, symbol grounding problem, qualia problem, Chinese Room problems, Fodorian problems, the list goes on…). So let’s first look at the engineer’s point of view, because it seems a little bit more straightforward

Engineers will ask: what is the car’s performance? Can it do things? More specifically: can it do the *right things*. More specifically: Is it capable of doing whatever it is that you need to be able to do if you want to show that you’re sentient?

Here trouble starts already. If we have a good test measure, then we’re happy. Engineers can design a good test to find out whether the car meets its challenge, provided that the challenge is measurable.

So what do you need to be capable of if you should want to be conscious? We don’t want this question turn into a philosophical one of course, so we need to look at observable measurable behaviors. Do we have examples of conscious systems? What do they do, typically? Well, *we’re* conscious. So what do we do?

More problems. We do SO MANY THINGS. What is the relevant aspect of our behavior? What is the property of our behaviors that signals consciousness? Hard one to answer.

Let’s turn it around. What do systems do that are NOT conscious? Perhaps we can substract all of their regular behaviors from the set of our behaviors and see what’s left.

Rocks. For example. Rocks are not conscious. What do rocks do? Well, they sit still. They wear out and turn into sand. And they respond to gravitational forces in the Newtonian way (throw one and see).

We also sit still. So we shouldn’t take that as a sign of consciousness. And the fact that we turn to sand at some point (ashes to ashes) also should’t be of interest. And our response to gravity: not important. Right: we can cross of at least some from our list. Let’s see what’s left. Anywhere near the crash-test laboratory set-up?

Bummer. Still too many behaviors left potentially relevant for consciousness. And apart from rocks, I don’t know many other examples of systems of which I can safely say  that they are definitely NOT conscious. Insects for example. Do I know for sure they are not conscious? I’ve read papers arguing for the consciousness of E.Coli bacteria. There are actually people (mainly in the 19-seventies though) telling me that the earth itself is somehow sentient, and that’s a rock!

I’m sorry. I cannot give the engineer any good definition of conscious behavior that he could use in a test. We’re thrown back into philosophy, even if we deliberately tried to avoid it.

Reflecting on this exercise I think perhaps the question “Is the Google Car conscious”, should be reinterpreted as aiming for something different altogether. Up until now, we’ve been discussing what would be a reasonable argument for or against the thesis that the car is conscious. Perhaps the whole idea of a reasonable argument is the problem. We’ve just found out that it is very difficult if not impossible to give reasonable arguments, simply because we have no clue what would count as conscious behavior and what not.

But we could also use the ‘case’ of the Google Car a different way. We could ask ourselves, on our gut-feeling: “Right from the hart, is the car conscious or not?”. Personally, I would say no. Perhaps you would say yes. We could either decide democratically (ask 1000 people). Or we could ask the most emininent professor in the room, provided s/he’s able to give us an skilled expert, gut-feeling answer (and not an argument based on reason).

Then, once we’ve decided first whether the car is conscious or not, we now have a different situation and a different engineering question to ask. Suppose, for example,  we decide the car is conscious. We now have a system, completely open to us (since we’ve built it ourselves), and we know it’s conscious. So now the question becomes: what made it conscious? That is an interesting question. And in our attempt at answering it we actually might learn a lot about consciousness.

I think it is the sort of question cognitive science actually has been trying to answer all along, be it about consciousness, or memory, intelligence, emotion, or motor planning. It is a question that stems from creating a working hypothesis about  a mechanic model (this model *has* quality A) and then doing the reverse engineering job of trying to find out what in the mechanics made it such that A is present.

It’s not really about the real thing though. It is a thoroughly pragmatic affair. We’ve first *decided* (based on no rational argument) that the model has A, and only given that hypothesis we analyse the system in the way we do. But I think it is a good way of doing science.

And quite designerly at that! Cowabonga!

Popularity: 16% [?]

This afternoon I arrived in Dagstuhl, a small village close to Wadern, a town two hours by RegionalBahn south of Frankfurt, Deutschland. I am here to discuss issues of ‘human and computer problem solving’, and whether we (who?, well, ‘us’) are in need of new foundations. (Some pictures appended below). I am honored to have been invited by Iris, since I am certainly not the expert in this field (and several of the people I met so far are pretty much The Expert). So I get to learn a lot. And yet it is a return to old times, since the world of problem representations, state spaces, search algorithms, frame problem, etc…, is the world of Cognitive Science that I was academically trained in. It’s fun to be back again! And I do hope I can build some bridges to my current Phd work, since I realize I have been drifting away from the things I was educated in quite a lot. The nice thing about this Seminar is that there are people from psychology departments and people from Computer Science, so there is enough opportunity for cross-disciplinary connections. But of course also we should expect some cultural clashes and misunderstandings. (My secret mission is to investigate (the lack of) shared understanding between scientists :-).

Talking about problem solving: In the train to Frankfurt there was a nice conversation I overheard:

Man with no train ticket “So I have to get out?”
Female inspector “You know that you have to have a ticket on the train”
Man, mocking: “But if you could only tell me what to do?”
Woman: “No no, you know that you have to have a ticket. No ticket, no train”.

So she indicated what he had to know
He then asked what he had to do (in the hope of not having to do anything)
And she then repeated what he should have known once more.

I hope we get to have good discussion on the relation between doing and knowing, and whether there is much of a difference in practice.

The Dagstuhl Premises (Schloss Dagstuhl). [I sleep on the other side of the road in a 60’s computer-science-lab-style appendix to the actual Schloss…]

Academic Seminar visitor Yellow von Diek visits the Dagstuhl Castle Ruins.

Seminar Co-Organizer Iris, not quite ready to accept that Boosting can get you arbitrary good results

Popularity: 20% [?]

Next week I will attend a seminar on (Human) Problem Solving. One of the speakers, Prof. William Batchelder, already published his slides, filled with (well-known) riddles and puzzles.

This is one of them, perhaps you already know of it.

Three friends traveling together walk into a hotel and ask for a room.
The manager tells them that the available room costs $30.
Each pays $10, and then they go up to the room.
Afterwards, the manager realizes he overcharged for the room and sends $5 back with the Bell Hop.
On the way to the room, the Bell Hop realizes that these people are not expecting to get any money back. He decides to pocket $2 of the overcharge and gives the people in the room $3 back.
If the three travelers initially paid $10 each, and each got $1 back, then they each paid $9 for the room.
$9 x 3 = $27.
Adding to that the $2 the Bell Hop kept for himself brings the total amount paid for the room to $29.
What happened to the 30th dollar?

Everybody see the trick?

What I found mostly interesting about it  - looking at it introspectively - is that I only needed to *glance* over the text for a second, in order to already see the ‘problem’/paradox. So that happened very quick! This means ‘understanding the puzzle’ is very easy, in this case. That is not always so, sometimes you will say ‘huh? again’? because you need more time to get what the problem is (even before solving it). Then I read it more carefully, but for the next minute or so I was only confirming that what had already suprised my in the first instant, was indeed the ‘puzzle’ that needed to be solved. So no information was added to my system, just a fact-check on my first grasp of what I had seen. Only in the second minute, when I started to deliberately teasing out ‘elements’ and telling myself ‘facts’ and statements “it must be true that … and so it must be true that … and in any case what you have is … “, then suddenly I saw the trick being played on the reader. That also ‘fell from the sky’ in an instant. “Wait a minute… they’re doing … while they should be …” The big puzzle of course is: what happens in (my)/ the readers mind over these 2 minutes? How does problem solving work? I hope to be a bit the wiser after next week ..

Btw MY point at the seminar will probably be something in the line of arguing that THESE kinds of riddles are NOT the sort of ‘problems’ that human beings confront in daily life - that is not unless you read blogs with riddles all day long. But I am afraid that I am still a long way of having MY slides ready - ooff…

“One dollar got lost? Not my problem!, said the Bell Hop, and he went out and bought himself his free pack of sigarettes”

Popularity: 15% [?]

Arjan Haring twittered about a conference in Spain UXLX where Stephen Anderson introduced the term Z-shaped thinkers.

I am a Z shaped thinker. So, thankfully as of today, thanks to Stephen A., I am now officially important, relevant, needed and appreciated (and therefore well-paid?) in the innovation and design proces that will spur the economy and save our souls from utter crisis and the End of the Planet as we know it (and from the Chinese as well). My contribution to modern society will be based on the fact that:

 Z-shaped thinkers…

• reframe the problem;
• explore many perspectives
• synthesize information
• embrace constraints
• challenge assumptions
• appreciate details

… in order to envision unseen opportunities.

(Although I am known to be a bit sloppy on the ‘details’ issue, but heck, that’s details).

You know, come to think of it, I actually know many Z-thinkers. In fact we’re a sort of Z-gang, we Z-people, doing the Z-thinking thing all day long, in our small little Z-munity, during lunch-breaks, on the toilet, etc…

And we *can* be hired.

So if you need help, and you have no one else to call (e.g. those God forsaken yesterday’s T-shape thinkers), then call us: the Z-team.

PS Please note I have nothing against T-shaped thinkers. In fact, I have T-people amongst the best of my friends. But still, you know, it *is* a fact that they are a bit horizontal, and vertical, right? They do seem to lack that diagonality that gives just that extra bit of juice to live. IMHO. Whoops, just thought of a fantastic new product concept - gotta go!

Popularity: 18% [?]

Popularity: 33% [?]

Old news, but new to me, a piece of rat-tissue was trained to control a flight simulator!

What I understand of the web-article is that they used biological neurons to create a network of cells in the same manner as they do in software ‘neural network’ systems. Artificial (software) neural networks work on some kind of local learning principle, for example some kind of error-feedback learning. Imagine you give a network some kind of input, and it will generate a (random) output. You then tell the network whether it did right or wrong and the network will adjust the strenghts of the connections between the neurons a bit, where ’succesful’ connections become stronger and the ‘wrong’ connections become less strong. Step by step the network will learn to associate each possible input with the correct output. In cases of a flight simulator the situation is a bit different but the principles stay the same. Here the network works mostly like cybernetic control system where the succesvalue of the output is continuously calculated and continuously fed back into the system as a constraint, driving the system towards the right kind of behavior. Reinforcement learning might be what these researchers have used here but I don’t know about the details of the study.

So now they used biological neurons instead of software neurons to do the same trick. BUT, that of course doesn’t mean that this is the way these neurons work in real brains. The researchers *used* the neurons to create a specific part of a system that is designed by researchers (an artificial neural network). It’s still artificial. For example, the error-feedback procedure used by the researchers might not at all resemble the way real brains correct their activation on basis of error feedback (if they do so at all). The big problem of understanding real brains is: WHO determines what is ‘right’ or ‘wrong’? Who puts the ‘value’ on the feedback signals that are to be used to change the network connections in the network? In other words, how does a real brain know it is ‘in a flight simulation game’ and how does it know ‘what is good and bad’ in a flight simulation game? If nobody tells the brain if the direction it’s going is good or bad, then it cannot learn anything. But we do learn, and nobody ‘tells’ us. In the end it has something to do with survival, with ‘keeping yourself satisfied’. At the moment you do something that gives no satisfaction, then the brain will probably receive this as an error-signal. But then the question becomes: how does the body monitor ’satisfaction’? For food intake or body damage I can image how this would work but for “flight simulation games”????

FURTHER THOUGHT Of course not only our body tells us something about ‘good’ and ‘bad’ but also the physical possibilities for behavior in the real world. If you crash your plane, then obviously you did something wrong. The big thing of being ‘intelligent’ however is that you can learn to fly a plane without crashing even once (since crashing will also end you life so you wouldn’t get to much learning experience out of that anyway). So how can we learn from the actual physical feedback we get from the world (e.g. the way the steering wheel feels in our hands and the way the visual flow changes in our eyes whilst we fly the plane) and then project that sensory feedback onto the succesvalue of a task that we do not get *real* physical feedback from, that is, how do we use the ’safe’ information (visual flow, sense of gravity) and use that to learn how to correct our errors *before* we actually crash the plane? In the end, this will probably mean that representation has to kick in at some point. So for example I see how the horizon tips over to the left, and somehow my brain has to take that feedback and make it mean something else than just ‘the horizon is tipping over to the left’. My brain has to see it tipping and then ‘conclude’ in some way that this *means* that my plane is ‘going to crash soon if I do not act quickly’. Gibsonian, ecological psychology would hold that representation is not necessary here, I don’t know who’s right. Still even in this case I still miss the ‘good’ and ‘bad’ valorisation: if I see the horizon tipping to the left (and feel gravity changing at the same time), how do I know this means I am doing something wrong? I still won’t know until I actually crash, right?

Popularity: 18% [?]

De cognitieve neurowetenschap leert ons we dat onze gedachten ‘eigenlijk gewoon’ patronen van hersenactiviteit zijn. Wij zijn ons brein. Het blijft een gekke uitspraak. Ik heb al eerder gewezen op een leuk essay van Andy Clark dat de gedachte erachter op subtiele wijze belachelijk maakt. Wetenschappers formuleren het vaak genuanceerder, maar dat verandert niets aan de onlogica. Men spreekt bijvoorbeeld over de ‘neural underpinnings of…’, of ‘the neural representation of …’ of ‘the neural network responsible for…’ en verder lijkt het dan alsof die neurale underpinnings en representaties en netwerken het enige zijn dat er toe doet om het fenomeen in kwestie te kunnen begrijpen en verklaren. Vanochtend las ik in het boek ‘Heidegger en zijn Tijd‘ een citaat van Leibnitz dat in dit verband ook relevant is. Leibnitz zegt, vrij vertaald: Het feit dat iets ‘berust’ op iets anders wil niet zeggen dat het gelijk is aan dat andere. Want als het ene gelijk was aan het andere, dan was er geen verschil, en als er geen verschil zou zijn dan zou het een ook niet meer kunnen berusten op het andere, dan was het er aan gelijk. Dus: Alhoewel het menselijk leven berust op de ademhaling, zijn wij toch wel degelijk meer dan ‘louter lucht’. Op onlogica kun je Leibnitz niet snel betrappen!

Ons denken, en ons bewustzijn en onze identiteit, dwz., wie wij zijn, berust, ten dele, op de werking van ons brein. Maar dat wil niet zeggen dat ons denken en onze hersenen gelijk zijn aan elkaar. (Zoals Paul Churchland wel degelijk stellig beweert).

De computermetafoor (waar Leibnitz trouwens ongetwijfeld avant la lettre aan heeft bijgedragen) heeft ons een tijd lang in de greep gehouden van de gedachte dat ons brein de hardware is en onze gedachten de software die op die hardware (of ‘wetware’) draait. Hersenwetenschappers hebben oppervlakkig gezien de computermetafoor verlaten. Er is geen database in ons hoofd. Er is geen ‘central processor’ (In de hippocampus liggen niet al onze herinneringen opgeslagen. De prefrontale cortex is niet de central executive system dat alles aanstuurt). De details van de hersenen bleken zo veel ingewikkelder in elkaar te zitten dat de computermetafoor al snel overboord werd gegooid. Wat kwam er voor in de plaats? Nu, dat is het gevaarlijke: niets. Er is op dit moment, voor zover ik weet, geen goede metafoor voor wat het brein ‘is’. En dus zijn we de zaak om gaan draaien: we weten nu zoveel feitjes en merkwaardigheden over het brein, dat we gestopt zijn met zeggen: ‘het brein is als een…’ en in plaats daarvan zijn we gaan zeggen: ‘wij zijn als een brein’. En zoals dat gaat met metaforen, de ‘als’ wordt al snel vergeten: ‘wij zijn ons brein;’. Je zou ook kunnen zeggen: hersenwetenschappers missen vooralsnog een goed conceptueel model dat hen helpt te duiden wat ze zien als ze met de nieuwste technologieeen in onze hersenpannen kijken, maar dat heeft hen niet weerhouden gewoon door te blijven praten terwijl ze aan het hersenscannen waren. Met de cognitieve neurowetenschap als gevolg.

Hoe dan ook: op een dieper niveau is de computermetafoor nog altijd aanwezig. Want alhoewel men dertig jaar geleden vooral benadrukte dat in een computer de hardware niet van belang is, omdat het uiteindelijk draait om de structuur van de software (in de traditie van het functionalisme), kun je natuurlijk ook, met evenveel recht, de omgekeerde weg bewandelen: *eigenlijk* is een computer *niets meer of minder* dan een verzameling electronische schakelingen, software ‘bestaat’ niet. En dat is feitelijk wat hersenwetenschappers nu zijn gaan zeggen. In een soort tegendraadse historische ontwikkeling zijn ze zichzelf van high-level computerprogrammeur  gaan omscholen tot old-school electrotechnici: hoe werken de schakelingen? Hoe zit het netwerk van verbindingen in elkaar? Die malle neurowetenschappers.

Op een nog algemener niveau kun je zeggen dat de computermetafoor - net zoals dertig jaar geleden al - er nog steeds voor zorgt dat we bepaalde vragen niet beantwoorden omdat de metafoor ons er van weerhoudt die vragen te stellen: Stel dat wij een combinatie zijn van hardware en software, waarbij de software ‘berust’ op de hardware: Wat is dan nu *precies* de relatie tussen de hardware en de software? Waardoor kenmerkt zich dat ‘berusten’? Hoe moeten wij dat berusten begrijpen? (Ik lees Heidegger en zijn tijd, dus ik begin wat hoogdravend te worden). Tja, in een computer, doet dat er uiteindelijk niet toe. Zolang je maar een electrotechnicus hebt die de hardware onderhoudt en een programmeur die de software schrijft; werkt het! En zolang het werkt, hoeven we verder niets te begrijpen. Die twee hoeven elkaars werk niet in elkaar te vertalen. En alhoewel neurowetenschappers het vaak wel beweren, geven zij ook geen antwoord op deze vraag, die uiteindelijk nog steeds het ‘mind body’ problem is. Binnen de aannames van boekjes als ‘ik ben mijn brein’ is er nog steeds dat probleem en het wordt ook nog steeds niet beantwoord, omdat we nog steeds als een necker-cube springen tussen ’software’ en ‘hardware’ beschrijvingen van ons zijn.

(Deze tekst is uiteraad geheel geschreven door mijn brein - ik ben hier dus niet voor verantwoordelijk).

Popularity: 28% [?]

Dit is een goed en humoristisch essay van Andy Clark, een van mijn favoriete schrijvers. Het is al best oud, maar het beschrijft heel goed de absurditeit van het gelijkstellen van “mij” en “mijn brein”. Gaat dus lijnrecht in tegen Dick Swaab’s: “Wij zijn ons brein”. Wij zijn niet ons brein. Puur logisch gezien al is het onzin. Als ik mijn brein ben, dan heeft mijn brein dus ‘een brein’ (ik heb immers een brein), en dat betekent dus dat mijn brein zichzelf ‘heeft’. Maar goed lees het essay.

Popularity: 17% [?]