Nejdříve uvedeme nejjednodušší model sestávající z jediného neuronu – obvykle mluvíme o perceptronu. Do neuronu se sbíhá n spojů, které reprezentují buď výstupy jiných neuronů, nebo podněty z vnějšího okolí. Po každém z těchto vstupů – stimulů, řekněme i-tém, přichází v daném časovém okamžiku informace xi, ve formě reálného čísla. Jde o číselně vyjádřené hodnoty nějakých příznaků, máme-li na mysli vstupní informaci z okolního světa – vstupního prostoru – bude celý vektor x = [x1‚ …, xn] charakterizovat jistý zkoumaný objekt. Za příznaky mohou sloužit údaje o teplotě, tlaku, barvě, booleovské hodnoty aj.
Každý spoj vedoucí do neuronu je charakterizován dalším reálným číslem wi, které udává tzv. synaptickou váhu spoje (důležitost), a každý neuron prahem θ. Vážený součet ξ = ∑ wi xi – υ (i = 1, ...‚ n) udává celkový podnět, tzv. potenciál neuronu. Na tento shromážděný potenciál reaguje neuron výstupní odezvou z = S(ξ), kde S je předepsaná nelineární přenosová funkce, obvykle tvaru sigmoidy (monotónně rostoucí mezi dvěma asymptotickými hodnotami, např. 0 a 1, s největší derivací v bodě 0).
Sítě s mnoha neurony lze dělit podle různých hledisek, zde přijmeme dvě. Jedno je dáno topologií sítě, druhé způsobem práce. Podle prvního hlediska rozeznáváme sítě rekurentní (jejich graf je cyklický, tj. výstupy některých neuronů se vrací jako stimuly zpět do sítě) a ostatní, z nichž nejdůležitější jsou vrstvené sítě s neurony rozdělenými do vrstev, přičemž výstupy neuronů jedné vrstvy slouží jako vstupy všech neuronů nejblíže „vyšší“ vrstvy a jiné propojení mezi neurony sítě není.
Koncept perceptronu je dílem F. Rosenblatta z roku 1958. Ten se inspiroval lidským okem a chtěl vytvořit model jeho fungování. Vyšel ze zjištění fyziologů, že sítnice obsahuje světlocitlivá čidla uspořádaná do matice. Jejich výstupy vedou do specializovaných buněk, tzv. démonů, geneticky předurčených ke schopnosti rozpoznávat jisté typy vzorů. Výstupy démonů se dále zpracovávají v buňkách s prahovým chováním, takže jejich výstup je aktivní až od určité úrovně vstupního vzruchu.
Perceptronová síť je podle fyziologického vzoru také třívrstvá. Vstupní vrstva funguje jako vrstva vyrovnávací, nebo chcete-li, rozvětvovací. Jejím úkolem je mapování dvourozměrného pole čidel na jednorozměrný vektor procesorových elementů. Tuto druhou vrstvu tvoří detektory příznaků. Každý z nich je náhodně spojen s prvky vrstvy vstupní. Váhy ke vstupům přiřazené jsou konstantní. Úkolem démonů je detekce specifických příznaků. Poslední, třetí vrstva obsahuje rozpoznávače vzorů (pattern recognizers, nebo-li perceptrons). Zatímco jsou váhy ve vstupní a druhé vrstvě pevné, lze váhy na vstupech vrstvy výstupní při trénování nastavovat. K učení sítě perceptronů navrhl Rosenblatt tzv. perceptronovský učící algoritmus.
Vlastní elementy se liší podle vrstev. Principiální schéma ukazuje obrázek. Ty v perceptronové vrstvě mají jeden vstup (práh) připojený pevně ke konstantě 1. Ostatní vstupy jsou náhodně připojeny k výstupům démonů střední vrstvy a jejich váhy jsou nastavitelné. Přenosová charakteristika procesorového elementu perceptronově vrstvy je následující: výstup je nulový, je-li vážený součet všech jeho vstupů nulový nebo záporný. V opačném případě je výstup roven jedné. Někdy se používá jiná nelineární přenosová funkce. V tom případě je při záporné nebo nulové hodnotě váženého součtu vstupů výstup roven -1, při kladné hodnotě je výstup + 1.
Učící algoritmus perceptronu: Váhy se nastaví náhodně, Je-li výstup správný, váhy se nemění, Má-li být výstup roven 1, ale je 0, inkrementuj váhy na aktivních vstupech, Má-li být výstup roven 0, ale je 1, dekrementuj váhy na aktivních vstupech.
Vstupy jsou přitom aktivní tehdy, když je jejich hodnota > 0. Velikost změny vah závisí na konkrétně zvolené ze tří možných variant:
Kromě klasického perceptronu, který jsme právě popsali, se při studiu literatury můžete setkat ještě s perceptronem podle Minskyho a Paperta (s tzv. MP-perceptronem) a s prvkem Adaline [Madaline] podle Widrowa.