神经网络是人类和动物大脑中的神经细胞网络。人类大脑有大约1000亿个神经细胞。我们人类应该依靠我们的智慧和能力来学习大脑复杂的继电器和适应性的各种运动和智力。许多世纪以来，生物学家，心理学家和医生都试图了解大脑的功能。大约在1900年，革命意识到这些微小的大脑物理构建块，神经细胞及其连接，对认知，联想，思想，意识和学习能力负责。
人工智能中神经网络的第一个重要步骤是由麦卡洛克和皮茨在1943年的一篇题为“神经活动中内在的思想的逻辑演算”[AR88]的文章中提出的。他们是第一个提出神经元数学模型作为大脑的基本开关元素的人。本文为人工神经网络的构建奠定了基础，从而为人工智能这一非常重要的分支奠定了基础。
我们可以将神经网络的建模和仿真领域视为AI中的仿生学分支。1几乎所有AI领域都试图重建认知过程，例如逻辑推理或概率推理。然而，用于建模的工具 – 即数学，编程语言和数字计算机 – 与人类大脑几乎没有共同之处。使用人工神经网络，方法是不同的。从关于自然神经网络功能的知识开始，我们尝试在硬件中建模，模拟甚至重建它们。该领域的每位研究人员都面临着将结果与人类表现进行比较的迷人而激动人心的挑战。
在本章中，我们将尝试通过从最重要的生物学见解开始定义神经元模型及其相互连接来概述历史进展。然后我们将介绍几个重要的基本模型：Hopfield模型，两个简单的联想记忆模型，以及实践中非常重要的反向传播算法。
1 Bionics关注的是解开“生命自然的发现”及其创新的技术转换[Wik10]。
W. Ertel，人工智能导论，计算机科学本科专题，
DOI 10.1007 / 978-0-85729-299-5_9，©Springer-Verlag
London Limited 2011
221
图9.1神经网络建模的两个阶段。在生物模型之上并且在具有神经元和它们之间的定向连接的正式模型之下
