神经网络的基本示例是“感知器”。它是弗兰克·罗森布拉特（Frank Rosenblatt）于1957年发明的。感知器是一种类似于逻辑回归的分类算法。这是因为，与逻辑回归相似，感知器具有权重w和输出函数'f'，该输出函数是权重和输入的点积。
唯一的区别是“ f”是一个简单的阶跃函数，其中逻辑回归规则应用于逻辑函数的输出。另一方面，感知器可以理解为简单的单层神经前馈网络的示例。
感知器被认为是一种有前途的网络形式，但后来发现它具有一定的局限性。这是因为感知器仅适用于线性可分离类。
一些科学家甚至继续发现并指出，感知器甚至没有能力学习诸如“ XOR”之类的简单逻辑功能。但是可以使用其他类型的神经网络来克服此问题。
具有在不同顺序层中组织的多个互连感知器的多层感知器在某些情况下将提供良好的准确性。这将由一个输入层，一个或多个隐藏层以及一个输出层组成。
一层中的每个单元都连接到下一层的所有单元。信息被传递到输入层，并且使用激活函数来获取该层的输出。
一层的输出作为输入传递到下一层，然后进一步传播到最后一层。因此，给出了“前馈”网络的名称。
可以使用梯度下降算法和反向传播训练神经网络。