算术装置、积和算术系统和设定方法

文档序号:74787 发布日期:2021-10-01 浏览:44次 >En<

阅读说明:本技术 算术装置、积和算术系统和设定方法 (Arithmetic device, product-sum arithmetic system, and setting method ) 是由 吉田浩 于 2020-01-17 设计创作,主要内容包括:本算术装置设置有多条输入线和多个积和算术设备。根据输入值的电信号在预定的输入时段中分别输入到多条输入线中。每个积和算术设备的乘积单元被配置为包括正权重乘积单元和/或负权重乘积单元,该正权重乘积单元生成与分别通过将输入值乘以正权重值而获得的乘积值相对应的正权重电荷,该负权重乘积单元生成与分别通过将输入值乘以负权重值而获得的乘积值相对应的负权重电荷,使得正权重比为在0-100%范围内的任何比率,该正权重比为正权重值的总和相对于权重值的绝对值的总和之比。每个积和算术设备的输出单元通过累加由正权重乘积单元生成的正权重电荷和/或累加由负权重乘积单元生成的负权重电荷来输出积和信号。输入时段的长度基于多个积和算术设备的正权重比的分布而设定。(The arithmetic device is provided with a plurality of input lines and a plurality of product-sum arithmetic devices. The electric signals according to the input values are input to the plurality of input lines, respectively, in a predetermined input period. The multiplication unit of each product-sum arithmetic device is configured to include a positive weight multiplication unit that generates positive weight charges corresponding to product values obtained by multiplying input values by positive weight values, respectively, and/or a negative weight multiplication unit that generates negative weight charges corresponding to product values obtained by multiplying input values by negative weight values, respectively, such that a positive weight ratio is any ratio in the range of 0-100%, the positive weight ratio being a ratio of the sum of the positive weight values to the sum of the absolute values of the weight values. The output unit of each product-sum arithmetic device outputs a product-sum signal by accumulating the positive weight charges generated by the positive weight product unit and/or accumulating the negative weight charges generated by the negative weight product unit. The length of the input period is set based on the distribution of the positive weight ratios of the plurality of product-sum arithmetic devices.)

算术装置、积和算术系统和设定方法

技术领域

本技术涉及一种算术装置、积和算术系统和设定方法,其可以应用于使用模拟方法的积和算术。

背景技术

常规地,已经开发了用于执行积和算术的技术。积和算术是将多个输入值中的每个乘以权重并将相乘结果彼此相加的算术,并且例如用于通过神经网络等进行图像、声音等进行的识别处理。

例如,专利文献1描述了一种模拟电路,在该模拟电路中,以模拟方式执行乘积累加算术处理。在这种模拟电路中,设定与多个电信号中的每个电信号相对应的权重。此外,分别输出取决于对应的电信号和权重的电荷,并且适当地将输出电荷在电容器中累加。基于累加电荷的电容器的电压来计算代表乘积累加结果的待计算值。因此,与例如数字处理(专利文献1的说明书第[0003]段、[0049]至[0053]段、以及[0062]段、图3等)相比,可以减小积和算术所需的功耗。

现有技术文献

专利文献

专利文献1:WO 2018/034163

发明内容

本发明待解决的技术问题

这种模拟型电路的使用预计会导致神经网络等的低功耗,并且期望提供一种能够准确地检测算术结果的技术。

鉴于上述情况,本技术的目的是提供一种算术装置、积和算术系统和设定方法,借此可以在执行积和算术的模拟型电路中准确地检测算术结果。

问题的解决方案

为了实现上述目的,根据本技术的实施例的算术装置包括多条输入线和多个积和算术器件。

与输入值相对应的电信号在预定的输入时段内输入到多条输入线中的每条中。

多个积和算术器件中的每个包括多个乘积单元和输出单元。

多个乘积单元中的每个基于输入到多条输入线中的每条线中的电信号,生成与通过将输入值乘以权重值而获得的乘积值相对应的电荷。

输出单元累加由多个乘积单元中的每个生成的与乘积值相对应的电荷,并且基于该累加电荷,输出表示乘积值之和的乘积累加信号。

此外,多个乘积单元包括正权重乘积单元以及负权重乘积单元中的至少一者,该正权重乘积单元生成与通过将输入值乘以正权重值而获得的乘积值相对应的正权重电荷,该负权重乘积单元生成与通过将输入值乘以负权重值而获得的乘积值相对应的负权重电荷,并且多个乘积单元被配置为使得正权重比为0%至100%的任何比率,该正权重比为正权重值的总和与权重值的绝对值的总和之比。

此外,输出单元累加由正权重乘积单元生成的正权重电荷以及由负权重乘积单元生成的负权重电荷中的至少一种,从而输出乘积累加信号。

此外,输入时段的持续时间基于多个积和算术器件的正权重比的分布来设定。

在该算术装置中,与输入值相对应的电信号的输入时段的持续时间基于多个积和算术器件的正权重比的分布来设定。因此,可以增加从每个积和算术器件输出的乘积累加信号的水平,同时降低功耗。因此,可以准确地检测算术结果。

与输入值相对应的电信号是一脉冲信号,该脉冲信号的相对于输入时段的导通时间的持续时间与输入值相对应。

输入时段的持续时间可以基于正权重比的平均值以及方差中的至少一者而设定。

随着正权重比越接近50%分布,输入时段的持续时间可以设定得越长。

随着正权重比的平均值越接近50%,输入时段的持续时间可以设定得越长。

在正权重比的平均值接近50%的情况下,随着正权重比的方差越小,输入时段的持续时间可以设定得越长。

输入时段的持续时间可以基于多个积和算术器件中的具有从输出单元输出的乘积累加信号低于噪声水平的高可能性的积和算术器件的数量而设定。

该算术装置可以还包括确定电路,该确定电路用于确定多个积和算术器件中的具有从输出单元输出的乘积累加信号低于噪声水平的高可能性的积和算术器件的数量。

确定电路可以包括:多个确定乘积单元,每个确定乘积单元基于输入到多条输入线中的每条中的电信号,生成正权重电荷和负权重电荷,该正权重电荷与通过将输入值乘以正权重值而获得的乘积值相对应,该负权重电荷与通过将输入值乘以负权重值而获得的乘积值相对应,该负权重值的绝对值等于正权重值;确定输出单元,基于与由多个确定乘积单元分别生成的正权重电荷的总数量和由多个确定乘积单元分别生成的负权重电荷的总数量之间的差相对应的电荷,来输出确定信号;以及确定单元,用于确定从多个算术装置输出的多个乘积累加信号当中的小于该确定信号的乘积累加信号的数量。

当与相同输入值相对应的电信号被输入到多条输入线中时,各自具有从输出单元输出的乘积累加信号低于噪声水平的高可能性的积和算术器件的数量可以基于由确定单元确定的数量来确定。

输出单元可以包括累加单元,该累加单元累加由正权重乘积单元生成的正权重电荷以及由负权重乘积单元生成的负权重电荷中的至少一者,并用预定阈值对由累加单元保持的电压执行阈值确定,从而输出表示乘积值之和的乘积累加信号。

累加单元可以包括:正电荷累加单元,能够累加由正权重乘积单元生成的正权重电荷;以及负电荷累加单元,能够累加由负权重乘积单元生成的负权重电荷。在这种情况下,输出单元可以以预定阈值对正电荷累加单元和负电荷累加单元中的每个执行阈值确定,从而输出乘积累加信号。

预定阈值可以基于输入时段的持续时间而设定。

正权重值、以及负权重值的绝对值可以固定为相同的值。在这种情况下,正权重比可以为正权重乘积单元的数量与乘积单元的数量之比。

多个积和算术器件中的每个可以包括正电荷输出线和负电荷输出线。在这种情况下,多个乘积单元可以设置成与多条输入线相关联。而且,正权重乘积单元可以包括电阻器,该电阻器连接在多条输入线中的相关联输入线与正电荷输出线之间、定义正权重值、并具有非线性特性、并且将与乘积值相对应的正权重电荷输出到正电荷输出线。而且,负权重乘积单元可以包括电阻器,该电阻器连接在多条输入线中的相关联输入线与负电荷输出线之间、定义负权重值、并具有非线性特性、并且将与乘积值相对应的负权重电荷输出到负电荷输出线。

正权重乘积单元的电阻器和负权重乘积单元的电阻器可以具有相同的电阻值。在这种情况下,正权重比可以为正权重乘积单元的电阻器的数量与电阻器的总数量之比。

确定电路可以包括正电荷输出线和负电荷输出线。在这种情况下,多个确定乘积单元可以设置成与多条输入线相关联。而且,多个确定乘积单元中的每个包括公共电阻器,该公共电阻器连接到在多条输入线中的相关联输入线与正电荷输出线之间的部分以及在多条输入线中的相关联输入线与负电荷输出线之间的部分中的每个,并且具有非线性特性。

根据本技术的实施例的积和算术系统包括多条输入线、多个模拟电路和网络电路。

多个模拟电路中的每个包括多个乘积单元和输出单元。

网络电路通过连接多个模拟电路来配置。

此外,输入时段的持续时间基于多个积和算术器件的正权重比的分布来设定。

根据本技术的实施例的设定方法,该设定方法包括:基于多个积和算术器件的正权重比的分布,设定用于将电信号输入到多条输入线中的每条中的输入时段。

附图说明

图1是示出根据本技术的实施例的算术装置的配置示例的示意图。

图2是示出待输入到模拟电路中的电信号的示例的示意图。

图3是示出算术装置的具体配置示例的示意图。

图4是示出神经元电路的配置示例的示意图。

图5是示出PWM方法的模拟电路的示例的示意性电路图。

图6是用于描述由图5所示的模拟电路计算乘积累加信号的计算示例的图。

图7是示出乘积累加信号的计算示例的示意图,该计算示例示出了整个乘积累加结果。

图8是示出PWM方法的模拟电路的另一示例的示意性电路图。

图9是用于描述由图8所示的模拟电路计算乘积累加信号的计算示例的图。

图10是示出TACT方法的模拟电路的示例的示意性电路图。

图11是用于描述在输入时段时每条输出线的电势的示意图。

图12是示出算术装置的配置示例的示意图,该配置示例用于描述与时间轴模拟积和算术有关的模拟。

图13是示出噪声掩埋确定电路的配置示例的示意图。

图14是示出测试信号的示例的示意图。

图15是示出神经网络的配置示例的示意图。

具体实施方式

在下文中,将参考附图描述根据本技术的实施例。

[算术装置的配置]

图1是示出根据本技术的实施例的算术装置的配置示例的示意图。算术装置100是执行包括积和算术的预定算术处理的模拟型算术装置。例如,通过使用算术装置100,可以根据诸如神经网络的数学模型来执行算术处理。

算术装置100包括多条信号线1、多个输入单元2和多个模拟电路3。每条信号线1是传输预定类型的电信号的线。例如,使用通过使用诸如脉冲定时和脉冲宽度的模拟量表示信号值的模拟信号作为电信号。在图1中通过箭头示意性地示出了电信号传输的方向。在该实施例中,模拟电路3与积和算术器件相对应。

例如,多条信号线1连接到一个模拟电路3。将电信号传输到模拟电路3的信号线1是针对该信号线1所连接的模拟电路3的输入信号线,电信号被输入到该模拟电路3中。此外,传输从模拟电路3输出的电信号的信号线1是针对该信号线1所连接的模拟电路3的输出信号线,电信号从该输出信号线输出。在该实施例中,输入信号线对与输入线相对应。

多个输入单元2中的每个生成与输入数据4相对应的多个电信号。输入数据4例如是要使用由算术装置100实现的神经网络等处理的数据。因此,也可以说,与输入数据4相对应的多个电信号的各个信号值是算术装置100的输入值。

例如,要由算术装置100处理的诸如图像数据、音频数据和统计数据的任意数据用作输入数据4。例如,在图像数据用作输入数据4的情况下,生成用图像数据的每个像素的像素值(RGB值、亮度值等)作为信号值的电信号。另外,可以根据输入数据4的类型和由算术装置100执行的处理的内容适当地生成与输入数据4相对应的电信号。

模拟电路3是基于输入电信号执行积和算术的模拟型电路。积和算术例如是将通过将多个输入值乘以与输入值相对应的权重值而获得的多个乘积值相加的算术。因此,也可以说积和算术是计算乘积值之和(以下称为乘积累加结果)的处理。

如图1所示,多条输入信号线连接到一个模拟电路3,并向该模拟电路3提供多个电信号。多条输入信号线和模拟电路构成根据本实施例的积和算术电路。此外,从每条输入信号线输入多个电信号,并且因此通过积和算术电路(模拟电路3)执行根据本实施例的积和算术方法。

在下文中,假设输入到一个模拟电路3中的电信号的总数量为N。应当注意,根据例如算术处理的模型、准确度等,要输入到每个模拟电路3中的电信号的数量N针对每个电路而适当地设定。

在模拟电路3中,例如,计算wi*xi,该wi*xi是由从第i条输入信号线输入的电信号表示的信号值xi与对应于该信号值xi的权重值wi的乘积值。这里,i表示等于或小于N的自然数(i=1,2,...,N)。对每个电信号(输入信号线)执行乘积值的算术,并且计算出N个乘积值。通过将N个乘积值相加而获得的值被计算为乘积累加结果(N个乘积值之和)。因此,由一个模拟电路3计算的乘积累加结果由下式表示。

[公式1]

将权重值wi设定在例如-α≤wi≤+α的范围内。这里,α表示任意的实数值。因此,权重值wi可以包括正权重值wi、负权重值wi、零权重值wi等。如上所述,通过将权重值wi设定在预定范围内,可以避免乘积累加结果发散的情况。

此外,例如,可以将权重值wi设定的范围归一化。在这种情况下,将权重值wi设定在-1≤wi≤1的范围内。因此,例如,可以调整乘积累加结果的最大值、最小值等,并且可以以期望的准确度执行积和算术。

在神经网络等中,可以使用一种被称为二进制连接的方法,该方法将权重值wi设定为+α或-α。二进制连接用于各种领域(诸如使用深度神经网络(多层神经网络)的图像识别)中,。二进制连接的使用可以简化权重值wi的设定,而不会降低识别准确度等。在二进制连接中,正权重值和负权重值的绝对值固定为相同的值。

如上所述,在二进制连接中,权重值wi被二进制化为二进制值(±α)。因此,例如,可以通过将权重值wi改变为正或负来容易地设定期望的权重值wi。可替代地,可以将二进制权重值wi归一化,并且可以将权重值wi设定为±1。另外,例如,权重值wi的设定范围、设定值等不受限制,并且可以适当地设定,从而实现期望的处理准确度。

信号值xi例如是从输入单元2输出的电信号和从模拟电路3输出的乘积累加结果。以这种方式,也可以说输入单元2和模拟电路3用作用于输出信号值xi的信号源。

在图1所示的示例中,从一个信号源(输入单元2、模拟电路3)输出单个电信号(单个信号值xi)。因此,相同的电信号被输入到连接到一个信号源的输出侧的多条信号线1中的每条中。此外,一个信号源和从该信号源输出的电信号所输入到的模拟电路3通过单条输入信号线彼此连接。

因此,例如,在图1所示的算术装置100中,将M条输入信号线连接到模拟电路3,该输入信号线连接到M个信号源。在这种情况下,输入到模拟电路3中的电信号的总数量N为N=M。应当注意,从一个信号源输出与正值和负值相对应的一对电信号(一对信号值xi +,xi -)的配置是可以的。

如图1所示,算术装置100具有分层结构,在该分层结构中,在多层中的每层中设置多个模拟电路3。例如,通过配置模拟电路3的层结构,构造了多层感知器型神经网络等。例如,适当地设计设置在每层中的模拟电路的数量、层的数量等,从而可以执行期望的处理。在下文中,设置在第j层中的模拟电路3的数量有时被称为Nj

例如,将由N个输入单元2生成的N个电信号输入到设置在第一级的层(最低层)中的每个模拟电路3中。第一级的模拟电路3计算与输入数据的信号值xi相关的乘积累加结果,并且在非线性转换处理之后将所计算的乘积累加结果输出到设置在下一层(第二级)中的模拟电路3。

将表示在第一级中计算出的各个乘积累加结果的N1个电信号输入到设置在第二层(上层)中的各个模拟电路3中。因此,如从第二级的模拟电路3观察到的,在第一级中计算出的各个乘积累加结果的非线性转换处理结果是电信号的信号值xi。第二级的模拟电路3计算从第一级输出的信号值xi的乘积累加结果,并且将所计算的乘积累加结果输出到上层的模拟电路3。

以这种方式,在算术装置100中,上层中的模拟电路3的乘积累加结果是基于下层中的模拟电路3所计算的乘积累加结果而计算出的。多次地执行这种处理,并且从包括在顶层(图1中的第三级的层)中的模拟电路3输出处理结果。因此,例如,基于通过对猫进行成像而获得的图像数据(输入数据4),可以执行诸如确定对象是猫的图像识别的处理。

如上所述,可以通过适当地连接多个模拟电路3来配置期望的网络电路。网络电路用作数据流处理系统,该数据流处理系统例如通过使信号从该数据流处理系统中经过来执行算术处理。在网络电路中,可以通过适当地设定例如权重值(突触连接)来实现各种处理功能。利用这种网络电路,构造了根据本实施例的积和算术系统。

应当注意,模拟电路3彼此连接的方法等不受限制,并且,例如,多个模拟电路3可以适当地彼此连接,从而可以执行期望的处理。例如,即使在模拟电路3彼此连接以便配置与分层结构不同的另一结构的情况下,也可以应用本技术。

在上面的描述中,已经描述了将在下层中计算出的乘积累加结果原样输入到上层中的配置。本技术不限于此,并且,例如,可以对乘积累加结果执行转换处理等。例如,在神经网络模型中,执行这样的处理:例如,通过使用激活函数对每个模拟电路3的乘积累加结果执行非线性转换并将该转换结果输入到上层。

在算术装置100中,使用函数电路5等,该函数电路5使用激活函数对电信号执行非线性转换。函数电路5例如是设置在下层与上层之间并且适当地转换输入电信号的信号值并根据转换结果输出电信号的电路。例如,为每条信号线1提供函数电路5。例如根据在算术装置100中实现的数学模型来适当地设定函数电路5的数量、函数电路5的布置等。

例如,将ReLU函数(斜坡函数)等用作激活函数。ReLU函数例如在信号值xi为0或更大的情况下原样输出该信号值xi,否则输出0。例如,将实现ReLU函数的函数电路5适当地连接到每条信号线1。因此,可以实现算术装置100的处理。

图2是示出输入到模拟电路3中的电信号的示例的示意图。在图2的A和图2的B中的每个中,示意性地示出了表示多个电信号的波形的图。图表的横轴表示时间轴,并且纵轴表示电信号的电压。

在图2的A中示出了根据脉冲宽度调制(PWM)方法的电信号的示例性波形。例如,PWM方法是通过使用脉冲波形的脉冲宽度τi来表示信号值xi的方法。即,在PWM方法中,电信号的脉冲宽度τi的长度取决于信号值xi

通常,脉冲宽度τi越长,信号值xi越高。

此外,电信号在预定的输入时段T内被输入到模拟电路3中。更具体地,各个电信号被输入到模拟电路3中,使得电信号的脉冲波形在输入时段T内下降。因此,电信号的脉冲宽度的最大值与输入时段T类似。应当注意,输入每个脉冲波形(电信号)的时刻等不受限制,只要该脉冲波形落入输入时段T即可。

例如,在PWM方法中,可以使用脉冲宽度τi与输入时段T的占空比Ri(=τi/T)来归一化信号值xi。即,标准的信号值xi表示为信号值xi=Ri。应当注意,使信号值xi与脉冲宽度τi相关联的方法不受限制,并且,例如,可以适当地设定表示信号值xi的脉冲宽度τi,使得可以以期望的准确度执行计算处理等。

在使用根据PWM方法的电信号的情况下,可以利用模拟电路3根据PWM方法执行时间轴模拟积和算术。

在图2的B中,示出了峰值时刻方法(以下被称为TACT方法)的电信号的示例性波形。例如,TACT方法是通过使用脉冲的上升时刻来表示信号值xi的方法。例如,通过使用预定的时刻作为基准在与输入值相对应的时刻输入脉冲。

在预定的输入时段T内将电信号输入到模拟电路3中。信号值xi由该输入时段T内的脉冲的输入时刻表示。例如,最大的信号值xi由输入时段T开始的同时输入的脉冲表示。最小的信号值xi由输入时段T结束的同时输入的脉冲表示。

也可以说,信号值xi由从脉冲的输入时段T的输入时刻到结束时刻的持续时间表示。例如,最大的信号值xi由这样的脉冲表示,该脉冲的从输入时段T的输入时刻到结束时刻的持续时间等于输入时段T。最小的信号值xi由这样的脉冲表示,该脉冲的从输入时段T的输入时刻到结束时刻的持续时间为0的脉冲。

应当注意,在图2的B中,连续脉冲信号用作根据TACT方法的电信号,该连续脉冲信号上升到与输入值相对应的时刻并保持导通水平直到获得乘积累加结果为止。本技术不限于此,并且根据TACT方法,具有预定脉冲宽度的矩形脉冲等可以用作电信号。

在使用根据TACT方法的电信号的情况下,可以根据TACT方法使用模拟电路3执行时间轴模拟积和算术。

如图2的A和图2的B所示,可以将一脉冲信号用作与输入值相对应的电信号,该脉冲信号的相对于输入时段T的导通时间的持续时间与输入值相对应。应当注意,在下文中,将假设由每个电信号表示的信号值xi为大于等于0且小于等于1的变量来进行描述。

图3是示出算术装置100的具体配置示例的示意图。图3是用于实现例如图1所示的算术装置100的电路的布置示例,并且示意性地示出了设置在算术装置100的一层中的多个模拟电路3。

每个模拟电路3包括一对输出线7、多个突触电路8和神经元电路9。如图3所示,一个模拟电路3被配置为在预定方向(图中的竖直方向)上延伸)。多个这种在竖直方向上延伸的模拟电路3在水平方向上并排布置,从而形成一层。在下文中,假设设置在图中最左侧的模拟电路3为第一模拟电路3。此外,有时将模拟电路3延伸的方向称为延伸方向。

一对输出线7沿着延伸方向彼此间隔开。该对输出线7包括正电荷输出线7a和负电荷输出线7b。正电荷输出线7a和负电荷输出线7b各自经由多个突触电路8连接到神经元电路9。

突触电路8计算由电信号表示的信号值xi与权重值wi的乘积值(wi*xi)。具体地,与乘积值相对应的电荷(电流)输出到正电荷输出线7a或负电荷输出线7b。

如稍后将描述的,正权重值wi +或负权重值wi -被设定到突触电路8。例如,与正权重值wi +的乘积值相对应的正权重电荷输出到正电荷输出线7a。此外,例如,与负权重值wi -的乘积值相对应的负权重电荷输出到负电荷输出线7b。

应当注意,在突触电路8中,具有相同符号的电荷(例如,正电荷)作为与乘积值相对应的电荷输出,而与权重值wi是正还是负无关。即,正权重电荷和负权重电荷变为具有相同符号的电荷。

以这种方式,每个突触电路8被配置为根据权重值wi的符号将与乘积结果相对应的电荷输出到不同的输出线7a或7b。稍后将详细描述突触电路8的具体配置。在该实施例中,多个突触电路8用作多个乘积单元,每个该乘积单元基于输入到多条输入线中的每条中的电信号,生成与通过将输入值乘以权重值而获得的乘积值相对应的电荷。

在该实施例中,单条输入信号线6和一对输出线7连接到单个突触电路8。即,单个电信号被输入到单个突触电路8,并且与基于输入电信号计算出的乘积值相对应的电荷被输出到输出线7a或7b。因此,突触电路8是连接到单条输入信号线6和一对输出线7(正电荷输出线7a和负电荷输出线7b)的单输入双输出电路。

在一个模拟电路3中,多个突触电路8沿着一对输出线7布置。每个突触电路8并行地连接到正电荷输出线7a(负电荷输出线7b)。在下文中,假设设置在最下游侧(连接到神经元电路9的一侧)上的突触电路8为第一突触电路。

如图3所示,多条输入信号线6以与多个模拟电路3中的每个的一对输出线7相交的方式布线。通常地,输入信号线6被设置成与每条输出线7正交。即,算术装置100具有交叉配置,在该交叉配置中,输入信号线6和输出线7彼此交叉。利用交叉配置,模拟电路3等例如可以以高密度集成。

此外,在算术装置100中,各个模拟电路3中包括的第j个突触电路8并行地连接到第j条输入信号线6。因此,类似的电信号输入到连接到同一输入信号线6的突触电路8中。因此,可以实现包括在下层中的一个信号源连接到包括在上层中的多个模拟电路3的配置。

应当注意,在图3所示的示例中,示意性地示出了包括在下层中的模拟电路3(前神经元),作为将电信号输入到每条输入信号线6中的信号源。本技术不限于此,并且,例如,在输入单元2用作信号源的情况下,也可以使用交叉配置。

如上所述,在算术装置100中,多个模拟电路3并行地连接到多条输入信号线6中的每条。因此,例如,可以将电信号并行地输入到每个模拟电路3(每个突触电路8)中并且实现高速算术处理。结果,可以表现出优异的算术性能。

神经元电路9基于由突触电路8计算出的乘积值,计算表达式(公式1)中所示的乘积累加结果。具体地,神经元电路9基于经由一对输出线7输入的电荷,输出表示乘积累加结果的电信号(乘积累加信号)。

图4是示出神经元电路9的配置示例的示意图。神经元电路9包括累加单元11和信号输出单元12。图4示出了连接到一对输出线7和单条输出信号线10的双输入单输出神经元电路9。应当注意,在某些情况下,双输入双输出电路等可以用作神经元电路9。

累加单元11累加由多个突触电路8输出到一对输出线7的电荷。累加单元11包括两个电容器13a和13b。电容器13a连接在正电荷输出线7a与GND之间。此外,电容器13b连接在负电荷输出线7b与GND之间。因此,从正电荷输出线7a和负电荷输出线7b流入的电荷分别在电容器13a和电容器13b中累加。

例如,当经过了电信号的输入时段T时,在电容器13a中累加的电荷是各自与正权重值wi +的乘积值相对应的正权重电荷的总和σ+。另外,在电容器13b中累加的电荷是与负权重值wi -的乘积值相对应的负权重电荷的总和σ-

例如,在电容器13a中累加正权重电荷的情况下,正电荷输出线7a相对于GND的电势增加。因此,正电荷输出线7a的电势是取决于各自与正权重值wi +的乘积值相对应的电荷的总和σ+的值。应当注意,正电荷输出线7a的电势与由电容器13a保持的电压相对应。

类似地,在电容器13b中累加负权重电荷的情况下,负电荷输出线7b相对于GND的电势增加。因此,负电荷输出线7b的电势是取决于各自与负权重值wi -的乘积值相对应的电荷的总和σ-的值。应当注意,负电荷输出线7b的电势与由电容器13b保持的电压相对应。

信号输出单元12基于在累加单元11中累加的电荷,输出表示乘积值(wi +*xi)之和的乘积累加信号。乘积累加信号例如是表示总乘积累加结果的信号,总乘积累加结果是所有正负权重值wi与信号值xi的乘积值之和。例如,由表达式(公式1)表示的乘积累加结果可以如下书写。

[公式2]

这里,N+和N-分别是正权重值wi +的总数量和负权重值wi -的总数量。如表达式(公式2)所示,总乘积累加结果可以计算为正权重电荷的乘积累加结果与负权重电荷的乘积累加结果之间的差,正权重电荷的乘积累加结果是正权重值wi +的乘积值(wi +*xi)的总和,负权重电荷的乘积累加结果是负权重值wi -的乘积值(|wi -|*xi)的总和。

在图4所示的示例中,信号输出单元12生成表示总乘积累加结果的一个信号,例如,作为乘积累加信号。具体地,通过适当地参考在累加单元11(电容器13a和电容器13b)中累加的电荷,计算正乘积累加结果和负乘积累加结果,并且基于它们之间的差来计算总乘积累加结果。而且,例如,可以生成分别表示正乘积累加结果和负乘积累加结果的正乘积累加信号和负乘积累加信号这两个信号作为乘积累加信号。

关于在累加单元11中累加电荷的方法不受限制。作为示例,将描述检测在一个电容器13中累加电荷的方法。在使用根据图2的A所示的PWM方法的电信号的情况下,每个与乘积值相对应的电荷在输入时段T内在电容器13中被累加。即,在输入时段T之前和之后都不会发生每个与乘积值相对应的电荷的累加。

例如,在输入时段T结束之后,以预定的充电速度对电容器13进行充电。此时,使用比较器等来检测与电容器13连接的输出线的电势达到预定阈值电势的时刻。例如,由于在开始充电时累加了更多的电荷,所以电势达到阈值电势的时刻变得更早。因此,可以基于时刻来表示在输入时段T内累加的电荷(乘积累加结果)。应当注意,充电速度可以由例如每单位时间的充电量来表示,并且也可以被称为充电率。

应当注意,这种阈值确定与通过充电和检测达到阈值电压的时刻以增加由电容器13保持的电压相对应。

在使用根据图2的B所示的TACT方法的电信号的情况下,由于在输入时段T结束之后也保持导通水平,因此电荷在电容器13中累加。对于这种电荷累加,通过使用比较器等来检测与电容器13连接的输出线的电势达到预定阈值电势的时刻。例如,由于在输入时段T结束时累加了更多的电荷,所以电势达到阈值电势的时刻变得更早。因此,可以基于时刻来表示在输入时段T内累加的电荷(乘积累加结果)。

应当注意,这种阈值确定与检测由电容器13保持的电压达到阈值电压的时刻相对应。

例如,通过执行这种阈值确定,检测表示乘积累加结果的时刻。基于检测结果,适当地生成正权重电荷的乘积累加信号、负权重电荷的乘积累加信号或总乘积累加信号。另外,例如,可以通过在输入时段T结束时直接读取电容器13的电势来计算每个乘积累加结果。

应当注意,取决于累加的正权重电荷的电压和取决于累加的负权重电荷的电压都可以被放大,以便生成乘积累加信号。此外,可以通过放大取决于累加的正权重电荷的电压与取决于累加的负权重电荷的电压之间的差分电压来生成乘积累加信号。例如,可以在神经元电路9中设置具有任意配置的差分放大器等。

在该实施例中,神经元电路9用作输出单元,该输出单元9累加与由多个乘积单元生成的乘积值相对应的电荷,并基于累加的电荷输出表示乘积值之和的乘积累加信号。此外,电容器13a和电容器13b用作正电荷累加单元和负电荷累加单元。神经元电路9累加由正权重乘积单元生成的正权重电荷和由负权重乘积单元生成的负权重电荷中的至少一种,从而输出乘积累加信号。

[根据PWM方法的模拟电路]

图5是示出根据该实施例的模拟电路的示例的示意性电路图。在图5中,示出了根据PWM方法的模拟电路3的示例。模拟电路3被设置成在与多条输入信号线6正交的方向上延伸。即,在图5所示的示例中,采用交叉配置。

模拟电路3包括一对输出线(正电荷输出线7a和负电荷输出线7b)、多个突触电路(多个乘积单元)8和神经元电路9。在图5所示的示例中,神经元电路9包括累加单元11、充电单元15、信号输出单元12以及开关16a至开关16d。

各自具有与信号值xi相对应的脉冲宽度的脉冲信号(PWM信号)作为输入信号in1至输入信号in6输入到多条输入信号线6中。在图5所示的示例中,示出了六条输入信号线6,但是输入信号线6的数量不受限制。输入信号in1至输入信号in6在具有预定持续时间的输入时段T内被输入(见图6)。

正电荷输出线7a输出与各自通过将信号值xi乘以正权重值wi +而获得的乘积值(wi +*xi)相对应的正权重电荷。负电荷输出线7b输出与各自通过将信号值xi乘以负权重值wi -而获得的乘积值(|wi -|*xi)相对应的负负权重电荷。在该实施例中,一对输出线7与一条或多条输出线相对应。

多个突触电路8被设置成分别与多条输入信号线6相关联。在该实施例中,一个突触电路8设置在一条输入信号线6中。多个突触电路8中的每个都包括电阻器17,该电阻器17连接在多条输入信号线6中的相应输入信号线6与正电荷输出线7a以及负电荷输出线7b中的任一个之间。该电阻器17可以具有非线性特性,并且可以具有防止电流回流的功能。与乘积值(wi +*xi)(或(|wi -|*xi))相对应的电荷输出到与电阻器17连接的输出线7a(或7b)。

例如,为了在每个突触电路8中使信号值xi乘以正权重值wi +,电阻器17连接在输入信号线6与正电荷输出线7a之间,并且使正电荷输出线7a输出正权重电荷。在图5所示的示例中,输入有输入信号in1、输入信号in3、输入信号in6的突触电路8是被配置为生成正权重电荷的正权重乘积单元的突触电路8a。也可以说,突触电路8a是其中设定了正权重的乘积单元。

为了在每个突触电路8中将信号值xi乘以负权重值wi -,电阻器17连接在输入信号线6与负电荷输出线7b之间,并且使负电荷输出线7b输出负权重电荷。在图5所示的示例中,输入有输入信号in2、输入信号in4、输入信号in5的突触电路8是被配置为生成负权重电荷的负权重乘积单元的突触电路8b。也可以说,突触电路8b是其中设定了负权重的乘积单元。

应当注意,具有与要设定的权重值wi相对应的电阻值的电阻器用作电阻器17。即,电阻器17在执行积和算术的算术装置100中在模拟电路3处用作定义权重值wi的元件。

例如,固定电阻器元件、可变电阻器元件、在亚阈值区域中工作的MOS晶体管等用作电阻器17。例如,通过使用在亚阈值区域中工作的MOS晶体管作为电阻器17,可以降低功耗。当然,可以使用另外的任意电阻器。

累加单元11累加与由多个突触电路8生成的乘积值(wi*xi)相对应的电荷。在该实施例中,提供两个电容器13a和13b作为累加单元11。

电容器13a经由开关16b连接到正电荷输出线7a,以累加由突触电路8a生成的正权重电荷。电容器13b经由开关16c连接到负电荷输出线7b,以累加由突触电路8b生成的负权重电荷。

充电单元15以预定的充电速度对累加单元11充电,在该累加单元中累加与乘积值(wi*xi)相对应的电荷之和。在该实施例中,提供两个电流源18a和18b作为充电单元15。应当注意,在输入时段T结束之后执行充电。

电流源18a经由开关16a连接到电容器13a的与正电荷输出线7a连接的一侧(与GND相反的一侧)。电流源18b经由开关16d连接到电容器13b的与负电荷输出线7b连接的一侧(与GND相反的一侧)。

在该实施例中,电流源18a和电流源18b以相同的充电速度对电容器13a和电容器13b充电。因此,正电荷输出线7a的电势V+(由电容器13a保持的电压)和负电荷输出线7b的电势V-(由电容器13b保持的电压)均增加。电流源18的具体配置不受限制并且可以任意地设计。

在充电单元15开始充电之后,信号输出单元12基于预定阈值对由累加单元11保持的电压执行阈值确定,从而输出表示乘积值(wi*xi)之和的乘积累加信号。在该实施例中,提供两个比较器20a和20b以及信号生成单元21作为信号输出单元12。

比较器20a检测由电容器13a保持的电压超过预定阈值θ1的时刻。应当注意,由电容器13a保持的电压的大小由电容器13a中累加的正权重电荷的总量和电荷量(充电速度×时间)确定。

比较器20b检测由电容器13b保持的电压超过预定阈值θ2的时刻。应当注意,由电容器13b保持的电压的大小由电容器13b中累加的负权重电荷的总量和电荷量(充电速度×时间)确定。

应当注意,在本实施例中,通过对具有相同阈值的电容器13a和电容器13b中的每个执行阈值确定来输出乘积累加信号。即,设定阈值θ1=阈值θ2。

信号生成单元21基于由比较器20a检测到的时刻和由比较器20b检测到的时刻,输出表示乘积值(wi*xi)之和的乘积累加信号。换句话说,信号生成单元21基于由电容器13a保持的电压达到阈值θ1的时刻和由电容器13b保持的电压达到阈值θ2(=θ1)的时刻来输出乘积累加信号。

在本实施例中,PMW信号是其脉冲宽度已被调制的脉冲信号,PMW信号作为乘积累加信号被输出。信号生成单元21的具体电路配置等不受限制并且可以任意地设计。

图6和图7是用于描述由图5所示的模拟电路3进行的乘积累加信号的计算示例的图。在本实施例中,基于在电容器13a中累加的正权重电荷的正权重电荷的乘积累加结果和在电容器13b中累加的负权重电荷的乘积累加结果,计算表示包括正值和负值的总乘积累加结果的信号。

正权重电荷的乘积累加结果的计算和负权重电荷的乘积累加结果的计算是相同的处理。首先,将参照图6描述基于在电容器13中累加的电荷来计算乘积累加结果的方法(积和算术方法),而不区分正值和负值。

将描述图6中所描述的参数。“t”表示时间。“T”表示输入时段和输出时段中的每个。“tn”表示输入时段T的结束时刻,并且“tm”表示输出时段T的结束时刻。

在本实施例中,将输入时段T的持续时间和输出时段T的持续时间设定为彼此相等。此外,输出时段T从输入时段T的结束时刻tn开始。因此,输入时段T的结束时刻tn与输出时段T的开始时刻相对应。

“θ”表示用于由信号输出单元12(比较器20)执行的阈值确定的阈值。

“Si(t)”表示输入到第i条输入信号线6中的输入信号(PWM信号)。“τi”表示输入信号Si(t)的脉冲宽度。“Pi(t)”表图5所示的每个突触电路8中的内部状态(电势)的变化量。“wi”表示权重值,并且由图5所示的电阻器17的电阻值定义。

“Vn(t)”表示“Pi(t)”的总和,并且与电容器13中累加的电荷的总量相对应。“Sn(t)”表示代表乘积累加结果的乘积累加信号(PWM信号)。“τn”表示待输出的乘积累加信号的脉冲宽度。具体地,“τn”表示与从电容器13保持的电压在输出时段T中超过阈值θ的时刻到输出时段T的结束时刻tm的持续时间相对应的值。

在该示例中,设置有开关16b和开关16c,并且具体地,可以通过经由该开关断开输出线来降低功耗并提高充电准确度。

这里,如以下表达式所示,输入值(信号值)xi由输入信号Si(t)的脉冲宽度τi与输入时段T的占空比Ri(=τ/T)给出。

[公式3]

图5所示的突触电路8生成与通过将信号值xi乘以权重值wi而获得的乘积值相对应的电荷。具体地,电阻器17的电阻以恒定的斜率wi增加内部状态(电势)。

在输入时段T的结束时刻tn处,每个突触电路8的内部电势的变化量Pi(tn)由以下表达式给出。应当注意,输入信号Si(t)的高水平值被设定为1。

[公式4]

Pi(tn)=wiRiT=wixiT

电容器13中累加的电荷的总量Vn(tn)是Pi(tn)的总和,并且因此由以下表达式给出。

[公式5]

在输入时段T的结束时刻tn,图5所示的开关16a和开关16d接通,并且开关16b和开关16c断开。在输入时段T的结束时刻tn,开始由充电单元15(电流源18)进行充电。因此,在本实施例中,在由充电单元15进行充电的开始时刻,输出时段T开始。即,在输入时段T的结束时刻tn,充电和输出时段同时开始。

电流源18从输入时段T的结束时刻tn起以斜率(充电速度)α增加每个突触电路8的内部电势。生成具有脉冲宽度τn的乘积累加信号(PWM信号),该脉冲宽度τn与从电容器13保持的电压在输出时段T中超过阈值θ的时刻到输出时段T的结束时刻tm的持续时间相对应。

假设乘积累加信号的脉冲宽度τn与输出时段T的占空比为Rn(=τn/T),则Rn由以下表达式给出。应当注意,阈值θ等于或大于电荷的总量Vn(tn)。

[公式6]

因此,通过将每个乘积值(wi*xi)相加而获得的乘积累加结果由以下表达式给出,该每个乘积值通过将信号值xi乘以权重值wi而获得。

[公式7]

即,乘积累加结果是通过从αRn=α·(τn/T)减去由充电速度α、阈值θ和输出时段T定义的常数而获得的值。这样,可以基于在具有预定持续时间的由累加单元11保持的电压在具有预定持续时间的输出时段T中超过阈值θ的时刻,来输出表示乘积累加结果的乘积累加信号。

图7是示出表示总乘积累加结果的乘积累加信号的计算示例的示意图,该总乘积累加结果总乘积累加结果基于正权重电荷和负权重电荷两者的乘积累加结果。在图7中,表示正权重电荷的乘积累加结果的乘积累加信号用“Sn +(t)”表示,并且其脉冲宽度用“τn +”表示。此外,表示负权重电荷的乘积累加结果的乘积累加信号由“Sn -(t)”表示,并且其脉冲宽度由“τn -”表示。此外,表示总乘积累加结果的乘积累加信号用“Sn(t)”表示,并且其脉冲宽度用“τn”表示。

在输入时段T的结束时刻tn处在电容器13a中累加的正权重电荷的总量Vn +(tn)由以下表达式给出。应当注意,wi +表示正权重值。

[公式8]

在输入期间T的结束时刻tn处在电容器13b中累加的负权重电荷的总量Vn -(tn)由以下表达式表示。应当注意,wi -表示负权重值。

[公式9]

假设正乘积累加信号Sn +(t)的占空比为Rn +(=τn +/T),则通过将乘积值(wi +*xi)相加而获得的正乘积累加结果由以下表达式给出,其中乘积值通过将信号值xi乘以正权重值wi +而获得。应当注意,假设阈值θ等于或大于正权重电荷的总量Vn +(tn)。

[公式10]

在负乘积累加信号Sn -(t)的占空比为Rn -(=τn -/T)的情况下,通过将乘积值(|wi -|*xi)相加而获得的负乘积累加结果由以下表达式给出,其中乘积值通过将输入值xi乘以负权重值wi -而获得。应当注意,充电速度α和阈值θ等于在表达式(公式10)中使用的值。此外,假设阈值θ等于或大于负权重电荷的总量Vn -(tn)。

[公式11]

因此,利用上述表达式(公式2),通过以下表达式给出总乘积累加结果。

[公式12]

即,通过电荷速度α、乘积累加信号Sn +(t)的脉冲宽度τi +、乘积累加信号Sn -(t)的脉冲宽度τi -、以及输出时段T获得总乘积累加结果。即,可以基于比较器20a检测到的时刻和比较器20b检测到的时刻来容易地计算乘积累加结果。

如图7所示,可以容易地输出具有脉冲宽度“τn”的乘积累加信号“Sn(t)”作为表示总乘积累加结果的乘积累加信号。应当注意,可以确定乘积累加信号Sn +(t)的脉冲宽度τn +和乘积累加信号Sn -(t)的脉冲宽度τn -中的哪一个较大。脉冲宽度τn +较大的情况下的乘积累加信号“Sn(t)”可以作为正乘积累加信号输出,并且脉冲宽度τn -较大的情况下的乘积累加信号“Sn(t)”也可以作为负乘积累加信号输出。可以通过适当地使用与(AND)电路、非(NOT)电路等来实现用于将脉冲宽度τn +与脉冲宽度τn -进行比较的电路。

还可以进行如下设定,使得在使用ReLU函数(斜坡函数)等的情况下,例如,当获得正乘积累加信号“Sn(t)”时,该信号原样输出,并且当获得负乘积累加信号“Sn(t)”时,输出0。

作为充电速度α和阈值θ的设定,对输出时段T设定α=θ/T。因此,由包括在表达式(公式6)、(公式7)、(公式10)和(公式11)中的充电速度α、阈值θ和输出时段T确定的常数可以设定为零,并且可以简化处理。即,通过基于输入时段T的持续时间来设定阈值θ,可以显示出有益的效果。

图8是示出根据PWM方法的模拟电路3的另一示例的示意性电路图。图9是用于描述由图8所示的模拟电路3计算的乘积累加信号的计算示例的图。

在图8所示的模拟电路3中,差分放大电路23输出与正权重电荷总量和负权重电荷总量之差相对应的电荷(V+-V-),并且包括在累加单元11中的电容器13累加电荷(V+-V-)。差分放大电路23的具体配置不受限制并且可以任意地设计。

在输入时段T的开始时刻,开关16a、开关16b和开关16c接通,并且开关16b断开。在输入时段T内输入输入信号。由差分放大电路23输出的电荷(V+-V-)在电容器13中累加。应当注意,图9省略了输入时段T中的电荷累加状态。

在输入时段T的结束时刻tn,开关16c断开,并且开关16d接通。如图9所示,由充电单元15(电流源18)进行的充电在输入时间段T的结束时刻tn开始。

此外,信号输出单元12的比较器20检测电容器13保持的电压超过阈值θ的时刻。基于检测到的时刻,信号生成单元21计算乘积累加信号(PWM信号)“Sn(t)”。

因此,通过对与正权重电荷总量和负权重电荷总量之差相对应的电荷(V+-V-)执行阈值确定,可以输出乘积累加信号“Sn(t)”。

应当注意,在根据上述PWM方法的模拟电路3进行的积和算术的描述中,每个突触电路8中的内部状态(电势)的变化或电容器13由于充电导致的电压的升高近似为线性变化。当然,在没有这种近似的情况下进行积和算术一点也不困难,相反,考虑到突触电路8等的寄生电容,可以提高积和算术的准确度。

在任何情况下,在根据本技术的模拟电路3(积和算术器件)中,可以基于正电荷输出线7a的电势(由电容器13b保持的电压)V+和负电荷输出线7b的电势(由电容器13b保持的电压)V-获得乘积累加结果。

[根据TACT方法的模拟电路]

图10是示出根据TACT方法的模拟电路3的示例的示意性电路图。脉冲信号(TACT信号)在与信号值xi相对应的时刻输入到多条输入信号线6中作为输入信号in1至输入信号in6

这里,输入连续脉冲信号,如图2的B所示,该连续脉冲信号上升到与输入值相对应的时刻并保持导通水平。关于脉冲信号,导通时间相对于输入时段T的持续时间与输入时段T中的输入值相对应。在下文中,在某些情况下,导通时间在输入时段T中的持续时间将被称为输入时段T中的脉冲宽度。

在输入时段T过去的时刻,电容器13a中累加的电荷是各自与正权重值wi +的乘积值相对应的正权重电荷的总和σ+。而且,电容器13b中累加的电荷是各自与正权重值wi -的乘积值相对应的负权重电荷的总和σ-

由于在输入时段T结束之后也保持电信号的导通水平,因此电荷在电容器13a和电容器13b中累加。基于由电容器13a保持的电压超过阈值θ的时刻,生成表示正权重电荷的乘积累加结果的乘积累加信号(PWM信号)。

此外,基于由电容器13b保持的电压超过阈值θ的时刻,生成表示负权重电荷的乘积累加结果的乘积累加信号(PWM信号)。可以基于这些正乘积累加信号和负乘积累加信号,生成表示总乘积累加结果的乘积累加信号。

这里,发明人研究了正电荷输出线7a和负电荷输出线7b的时间常数,作为与正电荷输出线7a的电势V+和负电荷输出线7b的电势V-相关的参数。即,发明人研究了输出线7的时间常数。因此,如下所述,发明人发现这样一种配置,该配置使得输出线7的时间常数恒定,而与设置在输出线7与多条输入信号线6之间的电阻器17的数量无关。

首先,假设电容器13a和电容器13b在功能上包括在输出线7a和输出线7b中产生的寄生电容(未示出)。在这种情况下,电容器13a和电容器13b可以采用的电容的最小值是输出线7中产生的寄生电容。例如,即使在不提供电容器13的情况下,也基于输出线7a和输出线7b中产生的寄生电容来累加电荷,并且可以基于阈值确定来生成乘积累加信号。这同样适用于根据图8等所示的PWM方法的模拟电路3。

输出线7的时间常数根据随时间顺序地输入的输入信号的数量以及在能够将信号传输到输出线7的状态下的电阻器17(导通电阻)的数量而顺序地改变。这里,关注放在输入时段T结束时的时间常数上。在按照本实施例的根据TACT方法的模拟电路3中,信号在输入时段T结束时输入到所有的输入信号线6中。因此,在输入时段T结束时输入信号的数量取最大值和常数值。因此,输入时段T结束时的时间常数根据导通电阻的数量顺序地改变。

这里,将电阻器17的电阻值设定为相同的电阻值R。换句话说,采用二进制连接配置。此外,每个突触电路8的寄生电容被设计成恒定电容C。由于电阻器17并行地连接到一条输出线7,因此在连接N个电阻器17的情况下,组合电阻为R/N(导通电阻的数量为N)。另一方面,由于突触电路8的数量是N,该N等于电阻器17的数量,所以组合电容为NC。

例如,在不提供电容器13的情况下,基于每个突触电路8的寄生电容生成乘积累加信号。在这种情况下,组合电阻×组合电容的值为RC,而与电阻器17的数量(导通电阻的数量)无关。因此,在输入时段T结束时输出线7的时间常数也为RC,而与电阻器17的数量无关。

在安装电容器13的情况下,将电容器13的电容设定为通过将预定常数C0乘以电阻器17的数量(导通电阻的数量)获得的值(电阻器17的数量×C0)。因此,时间常数为R/N×(NC+NC0)=R×(C+C0),并且为常数,与电阻器17的数量无关。因此,可以使时间常数为常数,与电阻器17的数量无关。

因此,在输入时段T结束时每条输出线7的电势V可以通过以下表达式来近似。

[公式13]

图11是用于描述输入时段T结束时每条输出线7的电势V的示意图。将参考表达式(公式13)和图11来描述输入时段T结束时每条输出线7的电势V。应当注意,图11的图中的曲线是与表达式(公式13)相对应的曲线。

“Vc”表示常数,并且是与等于或大于时间常数的时间过去之后的电势的收敛值相对应的值。“tave”表示在输入时段T内输入到输入信号线6中的脉冲信号的脉冲宽度的平均值。

如图11所示,基于与表达式(公式13)相对应的曲线来确定输入时段T和阈值θ。即,将输入时段T代替(公式13)的“tave”时的电势V设定为阈值θ。因此,在将最大脉冲(其在输入时段T中的脉冲宽度为最大)输入到所有的输入信号线6中的情况下,在输入时段T的结束时刻(输出时段T的开始时刻),输出线7的电势超过阈值。

另一方面,在将输入时段T中的脉冲宽度为0的脉冲输入到所有的输入信号线6中的情况下,在输出时段T的结束时刻,输出线7的电势超过阈值。结果,可以准确地计算在输出时段T内具有高分辨率的乘积累加信号。即,通过基于输入时段T的持续时间来设定阈值θ,可以显示出有益的效果。

如图11所示,基于阈值θ对电容器13a和电容器13b中的每个执行阈值确定。因此,利用“tave”可以准确地生成并输出乘积累加信号“Sn(t)”,该“tave”是输入时段T中各个脉冲信号的脉冲宽度的平均值。应当注意,每条输出线7的电荷并不总是按照图11所示的曲线发生。已经发现,在输入时段T结束时至少每条输出线7的电势V和乘积累加信号“Sn(t)”的脉冲宽度“τn”可以通过表达式(公式13)来近似。

不管用于连接输入信号线6和正电荷输出线7a的电阻器17的数量(即,正权重乘积单元的数量)以及用于连接输入信号线6和负电荷输出线7b的电阻器17的数量(即,负乘积单元的数量)在每个模拟电路3中如何组合,对于正电荷输出线7a的电势V+和负电荷输出线7b的电势V-都可实现图11中所描述的积和算术。

因此,如图7所示,可以基于乘积累加信号Sn +(t)的脉冲宽度τn +以及乘积累加信号Sn -(t)的脉冲宽度τn -来计算表示总乘积累加结果的乘积累加信号“Sn(t)”。

当然,可以执行其他配置和其他积和算术作为根据TACT方法的模拟电路3。在任何情况下,都可以基于正电荷输出线7a的电势(由电容器13a保持的电压)V+和负电荷输出线7b的电势(由电容器13b保持的电压)V-来获得积和算术的结果。

在根据PWM方法的模拟电路3和根据TACT方法的模拟电路3中,每个神经元电路9包括累加单元11,该累加单元累加由正加权乘积单元生成的正权重电荷以及由负权重乘积单元生成的负权重电荷中的至少一种,并且可以通过以预定阈值对由累加单元11保持的电压执行阈值确定来输出表示乘积值之和的乘积累加信号。

此外,累加单元11包括能够累加由正权重乘积单元生成的正权重电荷的正电荷累加单元和能够累加由负权重乘积单元生成的负权重电荷的负电荷累加单元。神经元电路9可以通过以预定阈值对正电荷累加单元和负电荷累加单元中的每个执行阈值确定来输出乘积累加信号。应当注意,可以基于输入时段的持续时间来设定预定阈值。

这里,发明人研究了作为积和算术的结果输出的乘积累加信号“Sn(t)”与由热等引起的噪声(以下,简称被为热噪声)之间的关系。在根据PWM方法的时间轴模拟积和算术和根据TACT方法的时间轴模拟积和算术中,作为参考,通过使用输入时段T作为时间信息对输入值进行归一化。

例如,在PWM方法中,使用脉冲宽度τi与输入时段T的占空比Ri对输入值进行归一化。在TACT方法中,在输入时段中的预定时刻对输入值进行归一化。例如,在使用图2的B所示的脉冲信号的情况下,通过使用输入时段T中的脉冲宽度对输入值进行归一化。

此外,通过使用阈值θ作为参考对与积和算术的结果相对应的输出线7的电势V进行归一化。即,与输入信息量无关,将积和算术的结果归一化为等于或小于阈值的恒定电荷量。因此,由于积和算术的结果与输入信息量无关地减小,因此关于算术结果的算术准确度和检测准确度仍有考虑的余地。

例如,为了检测图7所示的总乘积累加结果的乘积累加信号“Sn(t)”,热噪声的噪声水平限制了检测。即,等于或小于热噪声水平的输出作为噪声掩埋(noise burying)被自动拒绝,并且积和算术的准确度可能降低。然而,当前难以定量地预测从包括在算术装置100中的多个模拟电路3输出的积和算术值的最小值有多少将被掩埋在热噪声中。

发明人关注于控制根据PWM方法的时间轴模拟积和算术的和根据TACT方法的时间轴模拟积和算术的输入时间T。例如,在根据参照图5至图9描述的PWM方法的时间轴模拟积和算术中,延长了输入时间T。为了清楚起见,例如,假设输入时间T长了1.2倍。

关于输入到输入信号线6中的根据PWM方法的脉冲信号,由于输入值与脉冲宽度τi和输入时段T的占空比Ri相对应,所以脉冲宽度τi也扩展了1.2倍。因此,正电荷输出线7a的电势(由电容器13a保持的电压)V+和负电荷输出线7b的电势(由电容器13b保持的电压)V-也增加。

因此,图7所示的正权重电荷的乘积累加结果的乘积累加信号“Sn +(t)”的脉冲宽度“τn +”和表示负权重电荷的乘积累加结果的乘积累加信号“Sn -(t)”的脉冲宽度“τn -”也扩展了1.2倍。结果,表示总乘积累加结果的乘积累加信号“Sn(t)”的脉冲宽度“τn”也扩展了1.2倍。应当注意,阈值θ被设定为使得例如α=θ/T成立。

此外,在根据参考图10和图11描述的TACT方法的时间轴模拟积和算术中,假设输入时间例如扩展了1.2倍。关于要输入到输入信号线6中的根据TACT方法的脉冲信号,输入时段T中的脉冲宽度扩展了1.2倍。因此,正电荷输出线7a的电势(由电容器13a保持的电压)V+和负电荷输出线7b的电势(由电容器13b保持的电压)V-也增加。

因此,作为在输入时段T中的图11所示的脉冲信号的脉冲宽度的平均值的“tave”扩展了1.2倍。因此,表示正权重电荷的乘积累加结果的乘积累加信号“Sn +(t)”的脉冲宽度“τn +”和表示负权重电荷的乘积累加结果的乘积累加信号“Sn -(t)”的脉冲宽度“τn -”也扩展了1.2倍。结果,表示总乘积累加结果的乘积累加信号“Sn(t)”的脉冲宽度“τn”也扩展了1.2倍。应当注意,阈值θ例如基于与表达式(公式13)相对应的曲线根据输入时段T来确定。

因此,在根据PWM方法的时间轴模拟积和算术和根据TACT方法的时间轴模拟积和算术中,输入时段T的持续时间扩展,并且与输入值相对应的脉冲信号的导通时间的持续时间也相应地扩展。此外,阈值θ基于输入时段T的持续时间被适当地设定。

因此,正电荷输出线7a的电势V+(由电容器13a保持的电压)和负电荷输出线7b的电势V-(由电容器13b保持的电压)可以增加。结果,表示总乘积累加结果的乘积累加信号“Sn(t)”的值(脉冲宽度“τn”)可以扩展。因此,可以减少掩埋噪声量,并且可以准确地检测积和算术结果。

另一方面,增加输入时段T会导致功耗和处理时间的增加。发明人进行进一步研究以提高积和算术的结果的检测准确度,同时降低功耗和处理时间,并且新设计了一种将在下面描述的技术。

图12是示出算术装置的配置示例的示意图,用于描述与时间轴模拟积和算术有关的模拟。例如,使用布置有如图10所示的根据TACT方法的多个模拟电路3的算术装置100,在以下条件下执行模拟。

输入的数量...500

输入信号的值...由使用中值作为平均值的正态分布(方差固定)定义。

输入信号的布置...由每次测试的随机数设定

权重...正和负,二进制值

正权重比...使用50%作为平均值的正态分布(方差固定)。

权重的布置...由每次测试的随机数设定

积和算术值...作为绝对值计算

将描述这些条件。输入信号的值由对在输入时段T/2的时刻输入的脉冲(中值)进行平均的正态分布来定义(方差是预定的固定值)。即,将与根据这种分布输入值相对应的脉冲信号输入到500条输入信号线6中。

与根据正态分布的500个输入值相对应的每个脉冲信号输入到哪条输入信号线6中由每次测试的随机数设定。

作为权重,在每个模拟电路3中,具有相同电阻值的电阻器17连接到正侧(在输入信号线6与正电荷输出线7a之间)和负侧(在输入信号线6与正电荷输出线7b之间)。

在电阻器17连接到正侧的情况下,配置用作正权重乘积单元的突触电路8a。在电阻器17连接到负侧的情况下,配置用作正权重乘积单元的突触电路8b。在下文中,在某些情况下,突触电路8a和突触电路8b将称被为正权重乘积单元8a和负权重乘积单元8b。

正权重比是每个模拟电路3中正权重值的总和与权重值的绝对值的总和之比。在该模拟中,采用二进制连接配置。因此,正权重比是连接到正侧的电阻器17的数量与电阻器17的总数量(500)之比。也可以说,正权重比是正权重乘积单元8a的数量与突触电路8的数量之比。

例如,在电阻器17连接在所有的输入信号线6与正电荷输出线7a之间的情况下,即,在所有的乘积单元8用作正权重乘积单元8a的情况下,正权重比为100%。在电阻器17连接在所有的输入信号线6与负电荷输出线7b之间的情况下,即,在所有的乘积单元8用作权重乘积单元8b的情况下,正权重比为0%。

在连接在输入信号线6与正电荷输出线7a之间的电阻器17的数量和连接在输入信号线6与负电荷输出线7b之间的电阻器17的数量相等的情况下,正权重比为50%。即,在正权重乘积单元8a的数量和权重乘积单元8b的数量相等的情况下,正权重比为50%。

即,在算术装置100中,多个乘积单元8包括正权重乘积单元8a以及权重乘积单元8b中的至少一个,并且被配置为使得正权重比(正权重值的总和与权重值的绝对值的总和之比)为0%至100%的任何比值。此外,神经元电路9累加由正权重乘积单元8a生成的正权重电荷以及由权重乘积单元8b生成的负权重电荷中的至少一种,从而输出乘积累加信号。

在这种模拟中,多个模拟电路3的正权重比的分布由使用50%作为平均值的正态分布来定义(方差是预定的固定值)。即,提供50%的正权重比的模拟电路3的数量最多。

应当注意,在每个模拟电路3中,负权重值的总和与权重值的绝对值的总和之比为负权重比。此外,在每个模拟电路3中,正权重值的总和与负权重值的总和之比为正负权重比。在本公开中,正权重比、负权重比、以及正负权重比可以视为彼此等效的参数。

在确定了正权重比的模拟电路3中,通过每次测试的随机数来设定电阻器17设置的位置。为了方便起见,假设图12中所示的算术装置100的输入的数量为8。中间所示的模拟电路3的正权重比为50%。即,四个电阻器17连接到正侧中的每个并且四个电阻器17连接到负侧中的每个。通过每次测试的随机数来设定正侧上的四个电阻器17的位置和负侧上的四个电阻器17的位置。这对应于,正权重乘积单元8a的位置和负权重乘积单元8b的位置由随机数设定。

积和算术值作为绝对值被计算,并且例如与图7所示的总乘积累加结果的乘积累加信号“Sn(t)”的脉冲宽度“τn”相对应。

在这种条件下多次地执行模拟。因此,发现积和算术值的平均值、中值和最大值趋于落入一定范围内。即,可以找到积和算术值的平均值、中值和最大值的可预测范围。另一方面,关于积和算术值的最小值,每次测试都观察到变化,并且难以预测。

这里,发明人关注于多个模拟电路3的正权重比的分布。关于作为模拟条件之一的正权重比,将正态分布的平均值固定为50%,并且通过改变方差多次地执行模拟。结果,新发现正权重比的分布与积和算术值的最小值之间存在依存关系。

具体地,发现随着正权重比的正态分布的方差变小,积和算术值的最小值趋于变小。反之,发现随着正权重比的正态分布变大,积和算术值的最小值趋于变大。此外,发现随着正权重比的正态分布的平均值变得更接近50%,积和算术值的最小值趋于变小。

例如,假设正权重比为50%,并且正权重的总和(电阻器的数量)与负权重的总和(电阻器的数量)相等。在这种情况下,在输入时段T内输入到正权重乘积单元8a中的脉冲信号的脉冲宽度的平均值与在输入时段T内输入到权重乘积单元8b中的脉冲信号的脉冲宽度的平均值之间的差为与积和算术值的最小值相关联的参数。

也许可以认为,在将脉冲信号随机地输入到数量彼此相等(在该模拟中每250条)的输入信号线6中的情况下,输入时段T中的脉冲宽度的平均值接近于彼此。因此,可以认为随着正权重比的正态分布的平均值接近50%,积和算术值的最小值趋于变小。当然,这个想法是对新发现趋势的推论。

此外,可以认为,在设定了与二进制连接的权重不同的多值权重的情况下,也出现了这种趋势。可以认为,由于正权重的总和与负权重的总和为彼此接近的值,因此积和算术值较小。

基于这种趋势,可以通过正权重比粗略地预测积和算术值的最小值。可以有效地减少掩埋的热噪声量,同时降低功耗。

具体地,随着多个模拟电路3的更多的正权重比接近50%分布,输入时段T被设定得更长。因此,可以减少掩埋噪声量,并且可以准确地检测积和算术结果。此外,可以防止输入时段T变得比所需的更长。即,可以适当地调整输入时段T,并且可以增加乘积累加信号的水平,同时降低功耗和处理时间。

例如,在构造神经网络等的情况下,诸如输入的数量、输出的数量权重值和权重比的参数通常通过了解诸如服务器设备的计算机的处理来确定。通过基于所确定的参数适当地设计模拟电路3,实现了能够进行期望的积和算术的算术装置100。

例如,在模拟电路3的设计期间,根据所确定的参数基于多个模拟电路3的正权重比的分布来设定输入时间T。例如,基于多个模拟电路3的正权重比的平均值以及方差中的至少一者来设定输入时段T。

具体地,随着多个模拟电路3的越多的正权重比接近50%分布,输入时间T被设定得更长。例如,随着多个模拟电路3的正权重比的平均值变得越接近50%,输入时间T被设定得越更长。此外,在多个模拟电路3的正权重比的平均值接近50%的情况下,随着正权重比的方差越小,输入时段T被设定得越长。通过执行这样的设定方法,可以增加从每个模拟电路3输出的乘积累加信号的水平,同时降低功耗。因此,可以准确地检测算术结果。

[噪声掩埋确定电路]

图13是示出噪声掩埋确定电路的配置示例的示意图。例如,在算术装置100中设置用于确定模拟电路3的数量的噪声掩埋确定电路40,每个该模拟电路具有从神经元电路9输出的乘积累加信号低于噪声水平的高可能性。可以基于多个模拟电路3当中的具有从神经元电路9输出的乘积累加信号低于噪声水平的高可能性的模拟电路3的数量来设定输入时段T。

这里,以使用包括图8所示的差分放大电路23之前的配置的模拟电路3的情况为例。即,假设图13所示的每个神经元电路9包括图8所示的开关16a和开关16b、电容器13a和电容器13b、以及差分放大电路23,并输出对应于正权重电荷的总量与负权重电荷的总量之差的电荷(V+-V-)作为乘积累加信号。

也就是说,在本技术中,表示乘积值之和的乘积累加信号不仅包括图7所示的乘积累加信号“Sn(t)”(脉冲信号),而且包括基于与正权重电荷的总量与负权重电荷的总量之差相对应的电荷(V+-V-)的电荷信号(电压信号)。

此外,假设采用二进制连接配置。即,使用具有相同电阻值的电阻器作为电阻器17。

如图13所示,噪声掩埋确定电路40包括正电荷输出线41a、负电荷输出线41b、多个突触电路42、神经元电路43和多个比较器44。

如同在多个模拟电路3中一样,正电荷输出线41a和负电荷输出线41b被设置成与多条输入信号线6正交。图13示出了相同的测试信号被输入到多个模拟电路3和噪声掩埋确定电路40中。作为实际配置,多个模拟电路3和噪声掩埋确定电路40(除多个比较器44以外的部分)相对于公共输入信号线6彼此并行地配置。本技术不限于此,并且噪声掩埋确定电路40可以被配置为不连接到多个模拟电路3。

多个突触电路42被设置成分别与多条输入信号线6相关联。多个突触电路42中的每个包括共享电阻器45,该共享电阻器45连接在多条输入信号线6中的对应输入信号线6与正电荷输出线41a之间以及多条输入信号线6中的对应输入信号线6与负电荷输出线41b之间。这种电阻器45可以具有非线性特性,并且可以具有防止电流回流的功能。电阻器45的电阻值与设置在模拟电路3中的电阻器17的电阻值相同。

因此,每个突触电路42在正电荷输出线41a上生成并输出与乘积值(wi +*xi)相对应的电荷。另外,每个突触电路42在正电荷输出线41b上生成并输出与乘积值(|wi -|*xi)相对应的电荷。即,在噪声掩埋确定电路40中,与乘积值(wi +*xi)相对应的电荷和与乘积值(|wi -|*xi)相对应的电荷均从每个突触电路42输出。在该实施例中,多个突触电路42用作多个确定乘积单元。

神经元电路43具有与模拟电路3的神经元电路9的配置相似的配置。即,神经元电路43包括图8所示的开关16a和开关16b、电容器13a和电容器13b以及差分放大电路23,并且与正权重电荷的总量和负权重电荷的总量之差相对应的电荷(V+-V-)用作确定信号。

多个比较器44被设置成分别与多个模拟电路3相关联。比较器44的一个端子连接到相应的模拟电路3的输出。噪声掩埋确定电路40的输出连接到比较器44的另一端子。

在该实施例中,当从每个模拟电路3输出的作为乘积累加信号的电势超过从噪声掩埋确定电路40输出的作为确定信号的电势时,比较器44输出信号。当然,本技术不限于此,并且当从噪声掩埋确定电路40输出的作为确定信号的电势超过从每个模拟电路3输出的作为乘积累加信号的电势时,比较器44也可以输出信号。

在该实施例中,多个比较器44用作确定单元,用于确定从多个模拟电路3输出的多个乘积累加信号当中的小于确定信号的乘积累加信号的数量。在该实施例中,通过从模拟电路3的总数量中减去具有输出信号的比较器44的数量而获得的数量为乘积累加信号小于确定信号的数量。

图14示意性地示出了测试信号的示例。在确定掩埋噪声量时,与相同输入值相对应的电信号输入到多条输入信号线6中。在图14所示的示例中,使用脉冲宽度为T/2的PWM信号作为测试信号。本技术不限于此,并且可以使用与相同输入值相对应的任何电信号。

当将测试信号输入到多条输入信号线6中时,电荷(V+-V-)作为乘积累加信号从每个模拟电路3输出。(V+-V-)作为确定信号从噪声掩埋确定电路40输出。

如图13所示,在噪声掩埋确定电路40中,相同的电阻器45连接到每个突触电路42中的正侧和负侧。与正权重电荷的总量和负权重电荷的总量之差相对应的电荷(V+-V-)可以被视为噪声分量。因此,确定信号的大小可以被视为噪声水平。

多个比较器44确定其中乘积累加信号低于噪声水平的模拟电路3的数量。基于由多个比较器44在测试信号输入到多条输入信号线6中时确定的数量,可以确定多个模拟电路3当中的具有从神经元电路9输出的乘积累加信号低于噪声水平的高可能性的模拟电路3的数量。

也可以说,噪声掩埋确定电路40是能够检测各个模拟电路3的输出等于或低于检测极限的输出数量“Mx”的电路。基于输出数量“Mx”与模拟电路3的总数量“M”之比来控制输入时段T的持续时间。例如,在输出数量“Mx”与总数量“M”之比大于预定阈值的情况下,输入时段T被设定得更长。因此,可以减小掩埋噪声量,并且可以准确地检测积和算术结果。

应当注意,可以配置能够基于来自多个比较器44的输出来自动地设定输入时段T和阈值θ的电路。可替代地,操作员等可以在算术装置100的设计期间设定输入时段T和阈值θ。

当将图7所示的脉冲信号作为乘积累加信号输出时,也可以实现噪声掩埋确定电路40。将从每个模拟电路3输出的作为乘积累加信号的脉冲信号的脉冲宽度与由噪声掩埋确定电路40输出的作为确定信号的脉冲信号的脉冲宽度进行比较。因此,可以确定多个模拟电路3中的具有从神经元电路9输出的乘积累加信号低于噪声水平的高可能性的模拟电路3的数量。

此外,在不采用二进制连接配置的情况下,也可以实现噪声掩埋确定电路40。例如,具有相同值的正权重和负权重都被配置在噪声掩埋确定电路40的确定乘积单元中。因此,可以实现能够输出与噪声成分相对应的确定信号的噪声掩埋确定电路40。。

图15是示出神经网络的配置示例的示意图。例如,如图15所示,通过执行多个积和算术、多个归一化处理和多个合并处理(pooling processes)来实现神经网络。

这里,积和算术与包括多个模拟电路3的算术装置100的多个乘积累加结果的输出相对应。归一化处理是对输入信号进行归一化的处理,以便在下一级进行积和算术的输入。合并处理是在下一级根据积和算术的输入的数量来减少输入信号的数量的处理。通过归一化处理和合并处理,可以简化处理并缩短处理时间。

如图12所示,当执行每个积和算术时,可以基于多个模拟电路3的正权重比的分布和掩埋噪声量的确定结果来优化输入时段T和阈值θ。结果,可以以非常高的准确度检测积和算术结果。

应当注意,在图12中,示出了执行积和算术1至示出了执行积和算术8中的每个的算术装置100由设计有公共时间常数的多个模拟电路3构成的情况。因此,输入时段T和阈值θ在各算术装置100中基于曲线共同时间常数来设定。在图12中,输入时段T被设定为在各算术装置100中不同。本技术不限于此,并且可以采用公共输入时段T和公共阈值θ。

当然,算术装置100由各自具有另一种配置的模拟电路3构成,并且可以执行积和算术。同样在这种情况下,基于多个模拟电路3的正权重比的分布以及掩埋噪声量的确定结果,通过适当地设定输入时段T和阈值θ,可以准确地检测算术结果。

上面,在根据本实施例的算术装置100中,基于多个模拟电路3的正权重比的分布来设定与输入值相对应的电信号的输入时段的持续时间。因此,可以增加从每个模拟电路3输出的乘积累加信号的水平,同时降低功耗。结果,可以准确地检测算术结果。

<其他实施例>

本技术不限于上述实施例,并且可以实现各种其他实施例。

在以上描述中,已经举例说明了基于由累加单元保持的电压增加到阈值以上的时刻来输出乘积累加信号的情况。然而,可以采用基于由累加单元保持的电压降低到阈值电压以下的时刻来输出乘积累加信号的配置。例如,预先进行充电,直到用作累加单元的电容器的电压达到预定的预设值为止。在累加分别对应于信号值与权重值的乘积值的电荷之和后,以预定速率对电容器放电。在这种情况下,可以基于由电容器保持的电压降低到阈值以下的时刻来输出乘积累加信号。当然,本技术不限于这种配置。应当注意,在本公开中,对电容器放电包括在用负电荷对电容器充电中。

在以上描述中,已经描述了使用一对输出线的情况。本技术不限于此,并且可以设置三条或更多条输出线。即,上面描述的本技术也可以应用于使用一条或多条任意数量的输出线的情况。例如,乘积单元包括电阻器,该电阻器连接在相关联的输入线与一条或多条输出线中的任何一条之间并限定权重值,并且乘积单元将与乘积值相对应的电荷输出到电阻器所连接的输出线。当然,本技术不限于此。

上面参照附图描述的算术装置、积和算术器件、模拟电路、突触电路、神经元电路等的配置,生成乘积累加信号的方法等仅属于实施例,并且在不脱离本技术的要旨的情况下可以任意地修改。即,可以采用用于执行本技术的任何其他配置、方法等。

在本公开中,“相同”、“相等”、“正交”等是包括“基本上相同”、“基本上相等”、“基本上正交”等的概念。例如,还包括参考“完全相同”、“完全相等”、“完全正交”等包括在预定范围(例如,±10%的范围)内的状态。

上面描述的本技术的特征中的至少两个也可以组合。换句话说,在各个实施例中描述的各种特征可以与实施例无关地任意地组合。此外,上面描述的各种效果不是限制性的,而仅仅是说明性的,并且可以提供其他效果。

应当注意,本技术还可以采用以下配置。

(1)一种算术装置,包括:

多条输入线,与输入值相对应的电信号在预定的输入时段内输入到多条输入线中的每条中;以及

多个积和算术器件,每个积和算术器件包括:

多个乘积单元,每个乘积单元基于输入到多条输入线中的每条中的电信号,生成与通过将输入值乘以权重值而获得的乘积值相对应的电荷,以及

输出单元,累加由多个乘积单元中的每个生成的与乘积值相对应的电荷,并且基于所累加的电荷,输出表示乘积值之和的乘积累加信号,在该每个积和算术器件中,

多个乘积单元包括正权重乘积单元以及负权重乘积单元中的至少一者,该正权重乘积单元生成与通过将输入值乘以正权重值而获得的乘积值相对应的正权重电荷,该负权重乘积单元生成与通过将输入值乘以负权重值而获得的乘积值相对应的负权重电荷,并且多个乘积单元被配置为使得正权重比为0%至100%的任何比率,该正权重比为正权重值的总和与权重值的绝对值的总和之比,并且

输出单元累加由正权重乘积单元生成的正权重电荷以及由负权重乘积单元生成的负权重电荷中的至少一者,从而输出乘积累加信号,其中,

输入时段的持续时间基于多个积和算术器件的正权重比的分布而设定。

(2)根据(1)的算术装置,其中,

与输入值相对应的电信号是一脉冲信号,该脉冲信号的相对于输入时段的导通时间的持续时间与输入值相对应。

(3)根据(1)或(2)的算术装置,其中,

输入时段的持续时间基于正权重比的平均值以及方差中的至少一者而设定。

(4)根据(1)至(3)中任一项的算术装置,其中,

随着正权重比越接近50%分布,输入时段的持续时间被设定得越长。

(5)根据(1)至(4)中任一项的算术装置,其中,

随着正权重比的平均值越接近50%,输入时段的持续时间被设定得越长。

(6)根据(1)至(5)中任一项的算术装置,其中,

随着正权重比的平均值越接近50%,输入时段的持续时间被设定得越长。

(7)根据(1)至(6)中任一项的算术装置,其中,

输入时段的持续时间基于多个积和算术器件当中的具有从输出单元输出的乘积累加信号低于噪声水平的高可能性的积和算术器件的数量而设定。

确定电路,用于确定多个积和算术器件当中的具有从输出单元输出的乘积累加信号低于噪声水平的高可能性的积和算术器件的数量。

(9)根据(8)的算术装置,其中,

确定电路包括:

多个确定乘积单元,每个确定乘积单元基于输入到多条输入线中的每条中的电信号,生成正权重电荷和负权重电荷,该正权重电荷与通过将输入值乘以正权重值而获得的乘积值相对应,该负权重电荷与通过将输入值乘以负权重值而获得的乘积值相对应,该负权重值的绝对值等于正权重值;

确定输出单元,基于与由多个确定乘积单元分别生成的正权重电荷的总数量和由多个确定乘积单元分别生成的负权重电荷的总数量之间的差相对应的电荷,来输出确定信号;以及

确定单元,用于确定从多个算术装置输出的多个乘积累加信号当中的小于确定信号的乘积累加信号的数量。

(10)根据(9)的算术装置,其中,

从输出单元输出的具有乘积累加信号低于噪声水平的高可能性的积和算术器件的数量,基于由确定单元在与相同输入值相对应的电信号输入到多条输入线中时确定的数量而确定。

(11)根据(1)至(10)中任一项的算术装置,其中,

输出单元包括累加单元,累加单元累加由正权重乘积单元生成的正权重电荷以及由负权重乘积单元生成的负权重电荷中的至少一种,并且输出单元用预定阈值对由累加单元保持的电压执行阈值确定,从而输出表示乘积值之和的乘积累加信号。

(12)根据(11)的算术装置,其中,

累加单元包括:正电荷累加单元,能够累加由正权重乘积单元生成的正权重电荷;负电荷累加单元,能够累加由负权重乘积单元生成的负权重电荷;并且

输出单元用预定阈值对正电荷累加单元和负电荷累加单元中的每个执行阈值确定,从而输出乘积累加信号。

(13)根据(11)或(12)的算术装置,其中,

预定阈值基于输入时段的持续时间而设定。

(14)根据(1)至(13)中任一项的算术装置,其中,

正权重值、以及负权重值的绝对值被固定为相同的值,并且

正权重比为正权重乘积单元的数量与乘积单元的数量之比。

(15)根据(1)至(14)中任一项的算术装置,其中,

多个积和算术器件中的每个包括正电荷输出线和负电荷输出线,

多个乘积单元被设置成与多条输入线相关联,

正权重乘积单元包括电阻器,该电阻器连接在多条输入线中的关联输入线与正电荷输出线之间、定义正权重值、并具有非线性特性、并且将与乘积值相对应的正权重电荷输出到正电荷输出线,并且

负权重乘积单元包括电阻器,电阻器连接在多条输入线中的关联输入线与负电荷输出线之间、定义负权重值、并具有非线性特性、并且将与乘积值相对应的负权重电荷输出到负电荷输出线。

(16)根据(15)的算术装置,其中,

正权重乘积单元的电阻器和负权重乘积单元的电阻器具有相同的电阻值,并且

正权重比为正权重乘积单元的电阻器的数量与电阻器的总数量之比。

(17)根据(8)至(10)中任一项的算术装置,其中,

确定电路包括正电荷输出线和负电荷输出线,

多个确定乘积单元被设置成与多条输入线相关联,并且

多个确定乘积单元中的每个包括公共电阻器,公共电阻器连接到在多条输入线中的关联输入线与正电荷输出线之间的部分、以及在多条输入线中的关联输入线与负电荷输出线之间的部分中的每一者,并且该公共电阻器具有非线性特性。

(18)根据(15)至(17)中任一项的积和算术器件,其中,

电阻器为固定电阻元件、可变电阻元件或在亚阈值区域中工作的MOS晶体管。

(19)一种积和算术系统,包括:

多条输入线,与输入值相对应的电信号在预定的输入时段内输入到多条输入线中的每条中,

多个模拟电路,每个模拟电路包括:

多个乘积单元,每个乘积单元基于输入到多条输入线中的每条中的电信号,生成与通过将输入值乘以权重值而获得的乘积值相对应的电荷,

输出单元,累加由多个乘积单元中的每个生成的与乘积值相对应的电荷,并且基于所累加的电荷,输出表示乘积值之和的乘积累加信号,在每个模拟电路中,

多个乘积单元包括正权重乘积单元以及负权重乘积单元中的至少一者,该正权重乘积单元生成与通过将输入值乘以正权重值而获得的乘积值相对应的正权重电荷,该负权重乘积单元生成与通过将输入值乘以负权重值而获得的乘积值相对应的负权重电荷,并且该多个乘积单元被配置为使得正权重比为0%至100%的任何比率,该正权重比为正权重值的总和与权重值的绝对值的总和之比,并且

输出单元累加由正权重乘积单元生成的正权重电荷以及由负权重乘积单元生成的负权重电荷中的至少一者,从而输出乘积累加信号;以及

网络电路,通过连接多个模拟电路而被配置,其中,

输入时段的持续时间基于多个积和算术器件的正权重比的分布来设定。

(20)一种设定方法,包括:

基于多个积和算术器件的正权重比的分布,设定用于将电信号输入到多条输入线中的输入时段,每个积和算术器件包括:

多个乘积单元,每个乘积单元基于输入到多条输入线中的每条中的与输入值相对应的电信号,生成与通过将输入值乘以权重值而获得的乘积值相对应的电荷,

输出单元,累加由多个乘积单元中的每个生成的与乘积值相对应的电荷,并且基于所累加的电荷,输出表示乘积值之和的乘积累加信号,在每个积和算术器件中,

多个乘积单元包括正权重乘积单元以及负权重乘积单元中的至少一者,该正权重乘积单元生成与通过将输入值乘以正权重值而获得的乘积值相对应的正权重电荷,该负权重乘积单元生成与通过将输入值乘以负权重值而获得的乘积值相对应的负权重电荷,并且多个乘积单元被配置为使得正权重比为0%至100%的任何比率,该正权重比为正权重值的总和与权重值的绝对值的总和之比,并且

输出单元累加由正权重乘积单元生成的正权重电荷以及由负权重乘积单元生成的负权重电荷中的至少一者,从而输出乘积累加信号。

参考标号列表

T 输入时段

θ 阈值

1 信号线

3 模拟电路

6 输入信号线

7 一对输出线

7a 正电荷输出线

7b 负电荷输出线

8 突触电路(乘积单元)

8a 突触电路(正权重乘积单元)

8b 突触电路(负权重乘积单元)

9 神经元电路

10 输出信号线

11 累加单元

12 信号输出单元

13 电容器

17 电阻器

20 比较器

21 信号生成单元

23 差分放大电路

40 噪声掩埋确定电路

41a 噪声掩埋确定电路的正电荷输出线

41b 噪声掩埋确定电路的负电荷输出线

42 噪声掩埋确定电路的突触电路

43 噪声掩埋确定电路的神经元电路

44 噪声掩埋确定电路的比较器

45 噪声掩埋确定电路的电阻器

100 算术装置。

47页详细技术资料下载
上一篇:一种医用注射器针头装配设备
下一篇:用于检测接收器的系统

网友询问留言

已有0条留言

还没有人留言评论。精彩留言会获得点赞!

精彩留言,会给你点赞!

技术分类