Prírodou inšpirované algoritmy

Laloky

Tento dokument ukazuje v skratke, ako použiť program Cyberlife Genetics Kit, pomocou ktorého môžete upravovať niektoré parametre mozgu Norna.

Informácie tuná uvedené sa týkajú lalokov, vytvorených v Creatures 1.
Väčšina Nornov má 9 lalokov. Lalok je umiestnený v mriežke neurónov rozmeru 64*48. Lalok je umiestnený v tejto mriežke na súradniciach (X,Y) a je tiež definovaný svojou výškou a šírkou. Každý lalok obsahuje množinu neurónov, pričom každý neurón je asociovaný s číselnou hodnotou známou ako "state" (stav), ktorý je vyjadrený číslom z rozsahu (0,255). Aktuálna hodnota "state" určuje hladinu aktivity neurónu.

Genetika lalokov

Cyberlife Genetics Kit obsahuje dialógové okienka, v ktorých je možné modifikovať genetické informácie asociované s lalokom.

Hlavná stránka

V tomto okne je ukážka Decision laloku Norna Ron. Hlavná stránka obsahuje štandardnú hlavičku génu, ktorá popisuje kedy sa gén zapne, ako ho ovplyvní mutácia a pohlavie Norna pre daný gén, ktorý ho zapne. Je tu taktiež informácia kde sa lalok nachádza v mriežke, jeho popis, jedinečný numerický identifikátor laloku a znak, či sú dáta laloku nakopírované do perception laloku.

Gene Header

Embryo
Toto pole indikuje vek, pri ktorom sa gén laloku zapne. Väčšina lalokov sa zapína vo fáze "Embryo", aby zabezpečili jeho korektnú funkčnosť hneď po narodení.

Dup
Určuje, či je možné tento lalok kopírovať pomocou mutácie.

Mut
Určuje, či je možné genetické mutácie aplikovať na hodnoty obsiahnuté v tomto laloku.

Cut
Určuje či tento lalok môže byť odstránený počas plodenia alebo ako dôsledok mutácie. U väčšiny lalokov táto položka nie je aktivovaná.

B/M/F
Určuje rod, pri ktorom bude tento lalok zapnutý.

Lobe id

Lobe #
Obsahuje číselný identifikátor laloku. Je určený automaticky genetics kitom a nie je možné ho zmeniť.

Lobe position and size

X
X-ová súradnica laloku v mriežke.

Y
Y-ová súradnica laloku v mriežke.

Width
Množstvo neurónov v X smere, ktoré lalok používa v mriežke.

Height
Množstvo neurónov v Y smere, ktoré lalok používa v mriežke.

Description

Popis funkčnosti laloku a nie je editovateľný.

Data Copied to Perceprion Lobe

No
Žiadna z informácií obsiahnutých v tomto laloku sa nakopíruje do perception laloku (lalok číslo 0).

Yes
Stavová hodnota z každého neurónu sa nakopíruje do perception laloku.

Mutually Exclusive
Lalok označený týmto spôsobom ovplyvňuje spôsob akým sú dendrity vytvárané medzi perception a concept lalokmi. Ak je lalok označený ako mutally exclusive, potom len jeden neurón z tohto laloku môže prispieť k vytvoreniu určitého konceptu v concept laloku.

Cell Body Page

Táto stránka poskytuje informácie asociované ku každému neurónu v laloku. Tu sa definuje správanie sa neurónu.

Cell Body Dynamics

Nominal Treshold
Jeho hodnoty sú v rozsahu (0 až 255). Neurón neodpáli, ak hodnota jeho "state" nie je vyššia ako tento prah. Hodnota neurónu po odpálení je "state"-threshold.

Leakage Rate
Určuje rýchlosť akou neurón prejde z aktuálneho stavu do stavu odpočinku. Jeho hodnoty sú "Instantly" (okamžite), "5 Seconds", "10 Seconds", priamo k "52 years" a je reprezentovaný číslom medzi 0 a 255.

Rest State
Ak neurón nebol odpálený alebo aktivovaný tak sa nastaví na túto hodnotu.

Input gain lo-hi
Zatiaľ neurčené.

Winner takes all
Ak je políčko označené, tak je lalok winner-takes-all lalokom. To znamená, že ak sú všetky hodnoty neurónov v tomto laloku vyrátané, tak sa odpáli len ten neurón, ktorý má najvyššiu "state" hodnotu a hodnoty všetkých ostatných neurónov sa nastavia na nulu. Príkladom je decision lalok, kde môže byť vykonaná len jedna akcia - to je neurón s najvyššou odpaľovacou hodnotou.

Neurone State Rule

SVRule je niečo ako miniatúrny program napísaný v špeciálnom programovacom jazyku. Tento programovací jazyk má niekoľko "opcode" alebo operácií, ktoré môže vykonať na rôznych dátach. Len 8 jednotlivých opcodes je možných v SVRule, čo ich robí malými a rýchlymi na spustenie - SVRule pre každý neurón musí byť spustený približne 10 krát za sekundu. Viď state variable rule page.

State Rule
SVRule je tu definovaný, aby vypočítal nový "state" neurónu. SVRule je vypočítavané približne 10x za sekundu a jeho výsledok je hodnota "state" neurónu. Týmto spôsobom môže byť "state" neurónu definovaný geneticky a môžu byť vykonané rôzne spôsoby výpočtu v závislosti na úlohe laloku. Možnosti SVRule sú obrovské a zložitosti, ktorá môže byť obsiahnutá vo výpočte "state" je demonštrovaná v tutorial dva. SVRule môže byť použité na rôznych miestach v laloku, ale tu je to výpočet "state" hodnotu každého neurónu.

D0 Growth Page

Toto je jedna zo stránok popisujúca správanie sa dendritických spojení v laloku. Dendrity spájajú rôzne laloky a umožňujú informáciám cez ne putovať. Každý lalok môže mať dendritické spojenia s až dvoma rôznymi zdrojovými lalokmi. Sú označené ako dendrity "type 0" a "type 1". Tu si popíšeme nastavenia pre dendrity typu 0.

Dendritické spojenia sú pravdepodobne najkomplikovanejšou časťou mozgu Norna.

Source Lobe

Source Lobe
Určuje lalok ku ktorému sú dendrity pripojené. Dáta putujú z neurónov zdrojového laloku, ktorý je tuná definovaný.

Dendrite properties

Minimum #
Určuje minimálny počet dendritov, ktoré budú medzi každým neurón v aktuálnom laloku a neurónom v zdrojom laloku.

Maximum #
Určuje maximálny počet dendritov, ktoré budú medzi každým neurón v aktuálnom laloku a neurónom v zdrojom laloku. Pri narodení má Norn náhodné nastavenie spojení v mozgu. Každý neurón počet spojení medzi definovaným minimom a maximom. Keďže neuróny migrujú, tak sú hodnoty minimum a maximum dôležité, pretože určujú, či je ešte možné pridať alebo ubrať nejaké spojenia. Rozhodnutie koľko dendritov použiť pri vytváraní laloku, závisí od typu informácie, ktoré chcete obdržať zo zdrojového laloku a čo chcete s nimi robiť.

Spread
Definuje vzor, ktorý určuje "chladenie" dendritických spojení medzi aktuálnym a zdrojovým lalokom. Možnosti sú "-- flat","/ normal","| Saw" a "/| waS". Ako príklad, si predstavte zdrojový lalok, ktorý má 5 neurónov a aktuálny lalok ich má tiež 5. Ak je počet dendritov 2 a spread je "flat", potom budú 2 dendrity spájajúce neurón 0 zo zdrojového laloku a neurón 0 z cieľového laloku, to isté pre neurón 1, atď. S ďalším nastavením by to bolo, neurón 0 na neurón 0 a 1, neurón 1 na neurón 1 a 2. Presné rozloženie dendritov taktiež závisí od hodnoty "fanout" popísanej neskôr.

Initial Attachment

Fanout
Definuje, akým spôsobom sa každý dendrit zo zdrojového laloku "rozptýli" k neurónom v zdrojom laloku. Hodnota je medzi 0 a 8.

Min LTW
Určuje minimum Long Term Weight a jeho hodnota je medzi 0 a 255. Dendrit obsahuje hodnotu známu ako Long Term Weight(LTW) a tá má minimálnu a maximálnu možnú hodnotu. Presná funkcia LTW je popísaná v časti dendrite. Tieto hodnoty sa použijú len pri počiatočnom nastavení hodnôt dendritu pri narodení Norna.

Max LTW
Maximálna hodnota LTW v rozsahu 0 až 255. Musí byť rovná alebo väčšia ako minimum LTW.

Min Strength
Každý dendrit má hodnotu sily reprezentovanú číslom medzi 0 a 255. Sila určuje, aká je " silná" linka medzi zdrojovým a aktuálnym neurónom. Ak je sila 0, potom môže dendrit migrovať, pretože linka nie je silná. Minimálna hodnota je použitá na počiatočné pospájanie laloku a ako počiatočná hodnota po migrácií neurónu.

Max Strength
Maximálna hodnota sily, ktorá môže byť priradená k dendritu pri počiatočnom pospájaní mozgu.

Migration Rules

Definuje sa tu, akým spôsobom budú dendrity migrovať medzi bunkami. Príkladom dendritickej migrácie sú spojenia medzi perception lalokom a concept lalokom . Perception lalok je zdrojovým lalokom a concept cieľovým. Z perception laloku môžu byť 1-3 neuróny pripojené k ďalším neurónom v perception laloku, vytvárajúc tak vhodné "koncepty" pre učenie sa a vytváranie rozhodnutí.

Dendrites do not migrate
S týmto nastavením dendrity nebudú migrovať a zostanú tak ako boli na začiatku inicalizované. Používa sa to keď minimum aj maximum dendritov je rovnaké číslo s flat spread. Nič potom nemusí migrovať.

Migrate if ANY dendrite is loose and this cell is firing
Ak má neurón v aktuálnom laloku niekoľko dendritov pripojených k zdrojovému laloku, toto nastavenie spôsobí, že dendrity budú migrovať, ak ľubovoľný z týchto dendritov bude mať silu 0 (Loose dendrit je dendrit so silou 0) a neurón je práve odpálený. ináč nie.

Migrate when ALL dendrites are loose
Dendrity budú migrovať, ak všetky dendrity budú mať silu 0.

D0 Dynamics Page

Je to asi najkomplikovanejšia časť genetiky Norna. Je to definovanie dynamiky dendritov. "D0" strana popisuje dynamiku dendritov typu 0. Definuje akým spôsobom je hodnota sily upravovaná, ako sú hodnoty LTW a STW menené...

Tu je uvedený krátky popis niektorých hodnôt priradených k dendritu.

STW
Short Term Weihgt - používa sa na zmenu vstupných signálov. STW sa konštantne uvoľňuje smerom k LTW. Je to práve STW, ktorá sa kombinuje so vstupnou hodnotou zo zdrojového laloku, ktorá sa používa na výpočet "dendritickej hodnoty". Vzorec vyzerá byť nasledovný:

kde "source cell" je hodnota bunky (neurónu), ku ktorému je tento dendrit pripojený zo zdrojového laloku a "stw" je aktuálna STW hodnota neurónu.

Vzorec pre výpočet STW:

LTW
Long Term Weight - funguje ako relax stav pre STW a poskytuje štatistickú odozvu na reinforcement. LTW konštantne stúpa k STW. STW a LTW postupujú k sebe rôznou rýchlosťou (tieto rýchlosti sú definované geneticky).

Susceptibility
Aktuálna citlivosť na reinforcement. Ako je možné vidieť vo výpočte STW, susceptibility určuje hodnotu reinforcement. Čiže, čím je vyššia hodnota "susceptibility", tým viac "reinforcement" ovplyvní hodnotu STW.

Strength
Riadi migráciu dendritov. Určuje ako je dendrite linka silná. Ak je sila rovná 0, potom môže spojenie migrovať.

Antrophy and Consolidation

Relax Susceptibility
Je to polčas rozpadu "susceptibility" dendritu. Je to hodnota medzi 0 a 255 a definuje časový interval podobný "Leakage Rate" v "Cell Body Dynamics". Hodnota na obrázku hore 20 sekúnd. Takže keď je susceptibillity dendritu nastavená pomocou Susceptibility SVRule, tak toto nastavenie popisuje ako rýchlo sa vracia do oddychového stavu. Vzťah medzi touto hodnotou a susceptibility SVRule je podobný ako medzi "Leakage Rate" a "State SVRule" na stránke "Cell Body".

Relax STW
Je to polčas rozpadu alebo rýchlo relaxácie STW hodnoty pre dendrit. Hodnota na obrázku hore predstavuje 5 minút. Znova je to číslo medzi 0 a 255. STW sa zoslabuje smerom k hodnote LTW. Táto rýchlosť určuje rýchlosť tohto zoslabenia.

LTW Gain Rate
Ak je táto položka označená, tak LTW konštantne rastie smerom k STW pri definovanej rýchlosti. Toto číslo je rýchlosť tak, ako pri všetkých ostatných leakage rýchlostiach. Napríklad, ak je nastavená na 10 sekúnd (hodnota je 40) potom bude LTW rásť po jednom každých 10 sekúnd, pokým nedosiahne svoj relax stav (čo reprezentuje hodnota STW).

Susceptibility
Je to SVRule, ktoré určuje aká je citlivosť na reinforcement v dendrite. Čím je vyššia hodnota výsledku SVRule, tým má "reinforcement" väčší efekt na hodnotou STW. SVRule uvedené na obrázku hore vraví, že ak je v neuróne nejaká výstupná hodnota (ak je odpálený) potom je citlivosť dendritu rovná tejto výstupnej hodnote.

Reinforcement
Je to SVRule pravidlo ne výpočet zmien v STW. Zvyčajne je nastavené na hodnotu nejakej chemikálie. Táto chemikália sa upravuje použitím rôznych receptorov/emitorov, dostupných u Norna. V hore uvedenom príklade sa STW upraví, keď sa v Nornovi zmení množstvo chemikálie 0.

Vzťah medzi STW, LTW, susceptibility a reinforcemenom je ukázaný v nasledujúcom vzorci.

Strength Adjustment

Gain Every
Ak je táto možnosť zaškrtnutá, tak sa hodnota sily dendritického spojenia zvýši hodnotou označenou v slider (od 0 po 255) ak je výsledok zadaného SVRule výrazu väčší než 0. SVRule uvedený hore je "Suscept:TRUE:chem0:TRUE:STW". Znamená to, že ak je citlivosť spojenia väčšia ako 0 a chemical 0 je väčšia ako 0 potom je hodnota výrazu STW. Takže dendrit bude posilnený ak podlieha reinforcementu, obsahuje chemical 0 a STW je väčšie než 0.

Lose Every
Ak je označená, tak bude hodnota sily dendritického spojenia znížená hodnotou uvedenou v slider, ak je výsledok zadaného SVRule výrazu väčšia než nula. SVRule pravidlo uvedené hore je "chem 2". Takže ak je hodnota chemical 2 väčšia než 0, potom je sila dendritu oslabená.

Záver

Po rozrušení, STW aj LTW sa blížia exponenciálne k sebe, pričom LTW pomalšie. STW preto silne reaguje s jednotlivými reinforcement epizódami, zatiaľ čo LTW efektívne vypočítava pohybujúci sa priemer množstva STW rozrušení; ak sa zvieratko stretne so situáciou X a zistí, že vybratá akcia bola nežiadúca, potom by mala mať okamžite odpor túto akciu zopakovať. Avšak, situácia X nemusí byť tak zlá ako prvá skúsenosť naznačuje, a tak by dlhodobá interpretácia zvieratka mala byť menej radikálna.

Migrácia dendritov. Počiatočné spojenie je definované pri narodení, podľa malého množstva genetických pravidiel. Všeobecne sa neurónu pokúšajú napojiť z jedného laloku na druhý priamym priestorovým mapovaním, s násobným dendritickým rozptýlením k jednej zo strán zdrojovej bunky. Po narodení, však môžu dendrity migrovať a vytvárať nové spojenia (vždy v rovnakom zdrojovom laloku). Pravidelne sa vyráta hodnota sily pre každú synapsiu použitím SVRule, často ako odozva na chemické zmeny. Ak sila padne na nulu, tak sa dendrit odpojí a nasleduje vhodné pravidlo ako nájsť nové spojenie. Tieto migračné pravidlá boli vybraté, aby naplnili požiadavky počiatočného modelu mozgu.