算术设备和乘法-累加系统

文档序号:174314 发布日期:2021-10-29 浏览:27次 >En<

阅读说明:本技术 算术设备和乘法-累加系统 (Arithmetic apparatus and multiply-accumulate system ) 是由 吉田浩 于 2020-02-28 设计创作,主要内容包括:一种算术设备包括多个输入线和一个或多个乘法-累加装置。对应于输入值的电信号中的每一个在预定输入周期内被输入到多个输入线中。乘法-累加装置的多个乘法单元基于输入到多个输入线中的每一个的电信号,生成与通过将输入值乘以权重值而获得的乘积值相对应的电荷。乘法-累加装置的累加单元累积与多个乘法单元中的每一个生成的乘积值对应的电荷。乘法-累加装置的充电单元在输入周期后对其中累积与乘积值对应的电荷的累加单元进行充电。乘法-累加装置的输出单元在通过充电单元开始充电之后,通过使用预定阈值对累加单元保持的电压执行阈值确定,输出表示乘积值的总和的乘法-累加信号。在一个或多个乘法-累加装置中,通过充电单元的充电以共同充电模式执行,并且共同阈值被设置为预定阈值。(An arithmetic device includes a plurality of input lines and one or more multiply-accumulate means. Each of the electric signals corresponding to the input values is input into the plurality of input lines within a predetermined input period. The plurality of multiplication units of the multiply-accumulate device generate charges corresponding to product values obtained by multiplying input values by weight values, based on the electric signals input to each of the plurality of input lines. An accumulation unit of the multiply-accumulate apparatus accumulates charges corresponding to product values generated by each of a plurality of multiplication units. The charging unit of the multiply-accumulate device charges the accumulation unit in which the charge corresponding to the product value is accumulated after the input period. An output unit of the multiply-accumulate device outputs a multiply-accumulate signal representing a sum of product values by performing threshold determination on a voltage held by an accumulation unit using a predetermined threshold after charging is started by a charging unit. In one or more multiply-accumulate devices, charging by the charging unit is performed in a common charging mode, and the common threshold is set to a predetermined threshold.)

算术设备和乘法-累加系统

技术领域

本技术涉及一种可应用于使用模拟方法的乘法-累加运算的算术设备和乘法-累加系统。

背景技术

传统上,已经开发了用于执行乘法-累加运算的技术。乘法-累加运算是将多个输入值中的每一个乘以权重并将乘法结果彼此相加的运算,并且例如用于通过神经网络等来识别图像、语音等的处理。

例如,专利文献1描述了一种模拟电路,其中以模拟方式执行乘法-累加处理。在该模拟电路中,设置与多个电信号中的每一个对应的权重。此外,根据对应的电信号和权重的电荷被分别输出,并将输出的电荷适当地在电容器中进行累积。要进行计算的表示乘法-累加结果的值是基于其中累积电荷的电容器的电压来计算的。因此,与例如数字处理相比,可以减少乘法-累加运算所需的功耗(专利文献1的说明书第[0003]、[0049]至[0053]以及[0062]段,图3等)。

引文列表

专利文献

专利文献1:WO 2018/034163

发明内容

技术问题

期望使用这样的模拟型电路能带来神经网络等的低功耗化,以及期望能提供一种实现高效且高速的运算处理的技术。

鉴于上述情况,本技术的一个目的是提供一种算术设备、乘法-累加系统和设置方法,通过它们可以在执行乘法-累加运算的模拟电路中实现高效且高速的运算处理。

问题的解决方案

为了实现上述目的,一种根据本技术实施例的算术设备包括多个输入线和一个或多个乘法-累加装置。

对应于输入值的电信号中的每一个在预定输入周期内被输入到多个输入线中。

一个或多个乘法-累加装置均包括多个乘法单元、累加单元、充电单元和输出单元。

多个乘法单元基于输入到多个输入线中的每一个的电信号生成与通过将输入值乘以权重值而获得的乘积值相对应的电荷。

累加单元累积由多个乘法单元中的每一个生成的与乘积值对应的电荷。

在输入周期之后,充电单元对其中累积与乘积值对应的电荷的累加单元进行充电。

在通过充电单元开始充电之后,输出单元通过使用预定阈值对累加单元保持的电压执行阈值确定,输出表示乘积值的总和的乘法-累加信号。

此外,在一个或多个乘法-累加装置中,通过充电单元的充电以共同充电模式执行,并且共同阈值被设置为预定阈值。

在该算术设备中,相对于一个或多个乘法-累加装置,充电以共同充电模式执行,并且阈值确定通过使用共同阈值来执行。因此,可以在执行乘法累加-运算的模拟电路中实现高效且高速的算术处理。

一个或多个乘法-累加装置可以是并联连接到多个输入线的多个乘法-累加装置。

共同充电模式可以包括在共同充电周期期间供应有相同充电信号的充电。

共同充电模式可包括以共同充电速度进行充电。

共同充电模式可以包括根据共同时间常数进行充电。

将在多个乘法单元中设置的权重值的绝对值的总和定义为权重总和值,共同充电模式可以包括基于在一个或多个乘法-累加装置中的权重总和值的最大值的充电。

一个或多个乘法-累加装置中的每一个可包括电荷输出线。在这种情况下,多个乘法单元可以将与乘积值对应的电荷输出到电荷输出线。此外,共同充电模式可以包括其中使用与通过多个乘法单元将与乘积值对应的电荷输出到电荷输出线相关联的时间常数作为共同时间常数的充电,该多个乘法单元的权重总和值为最大值。

共同阈值可以基于输入周期的持续时间来设置。

将在多个乘法单元中设置的权重值的绝对值的总和定义为权重总和值,共同阈值可以基于在一个或多个乘法-累加装置中权重总和值的最大值进行设置。

共同充电模式可以包括在共同充电周期期间供应有相同充电信号的充电。在这种情况下,充电单元可以包括充电线,该充电线连接到累加单元并且在共同充电周期期间向累加单元提供相同充电信号。

共同充电模式可以包括在共同充电周期期间供应有相同充电信号的充电。在这种情况下,充电单元可以在共同充电周期期间经由多个输入线向累加单元供应相同充电信号。

多个乘法单元可以包括正权重乘法单元和负权重乘法单元中的至少一个,正权重乘法单元生成与通过将输入值乘以正权重值获得的乘积值相对应的正权重电荷,负权重乘法单元生成与通过将输入值乘以负权重值获得的乘积值相对应的负权重电荷。在这种情况下,累加单元可以包括能够累积由正权重乘法单元生成的正权重电荷的正电荷累加单元和能够累积由负权重乘法单元生成的负权重电荷的负电荷累加单元。此外,充电单元可以在共同充电模式下对正电荷累加单元和负电荷累加单元进行充电。此外,输出单元可以通过使用共同阈值对正电荷累加单元和负电荷累加单元中的每一个进行阈值确定来输出乘法-累加信号。

将在多个乘法单元中设置的正权重值的总和定义为正总和值,并且将负权重值的绝对值的总和定义为负总和值,共同充电模式可以包括基于一个或多个乘法-累加装置中的正总和值和负总和值中的最大值的充电。

一个或多个乘法-累加装置中的每一个可包括正电荷输出线和负电荷输出线。在这种情况下,正电荷乘法单元可以将正权重电荷输出到正电荷输出线。此外,负电荷乘法单元可以将负权重电荷输出到负电荷输出线。此外,假设一个或多个乘法-累加装置中的正总和值和负总和值中的最大值为最大总和值,则与最大总和值相关的正权重电荷或负权重电荷为最大权重电荷,以及从中输出最大权重电荷的正电荷输出线或负电荷输出线为最大电荷输出线;将与到最大电荷输出线的最大权重电荷的输出相关联的时间常数定义为共同时间常数,共同充电模式可以包括根据共同时间常数的充电。

将在多个乘法单元中设置的正权重值的总和定义为正总和值,并且将负权重值的绝对值的总和定义为负总和值,共同阈值可以基于一个或多个乘法-累加装置中的正总和值和负总和值中的最大值进行设置。

正权重值和负权重值的绝对值可以固定为相同的值、设置为彼此不同的多个值中的任意一个,或者随机设置。在这种情况下,在一个或多个乘法-累加装置中,通过将正总和值和负总和值相加而获得的值可以为共同值。

正权重值和负权重值的绝对值可以固定为相同的值、设置为彼此不同的多个值中的任意一个,或者随机设置。在这种情况下,在一个或多个乘法-累加装置中,通过将正总和值和负总和值相加而获得的值可以为随机值。

共同充电模式可以包括在共同充电周期期间供应有相同充电信号的充电。在这种情况下,充电单元可以包括充电线,该充电线连接到正电荷累加单元和负电荷累加单元,并且在共同充电周期期间向正电荷累加单元和负电荷累加单元供应相同充电信号。

共同充电模式可以包括在共同充电周期期间供应有相同充电信号的充电。在这种情况下,充电单元可以在共同充电周期期间经由多个输入线向正电荷累加单元和负电荷累加单元供应相同充电信号。

一种根据本技术实施例的乘法-累加系统包括多个输入线、一个或多个模拟电路和网络电路。

一个或多个模拟电路包括多个乘法单元、累加单元、充电单元和输出单元。

网络电路通过连接多个模拟电路进行配置。

此外,在一个或多个模拟电路中,通过充电单元的充电以共同充电模式执行,并且共同阈值被设置为预定阈值。

附图说明

[图1]示出了根据本技术实施例的算术设备的配置示例的示意图。

[图2]示出了要输入到模拟电路中的电信号的示例的示意图。

[图3]示出了算术设备的具体配置示例的示意图。

[图4]示出了神经元电路的配置示例的示意图。

[图5]示出了PWM方法的模拟电路示例的示意性电路图。

[图6]用于描述图5所示模拟电路的乘法-累加信号的计算示例的示图。

[图7]示出了乘法-累加信号的计算示例,示出了整个乘法-累加结果的示意图。

[图8]示出了根据TACT方法的模拟电路的示例的示意性电路图。

[图9]用于描述输入周期结束时每个输出线的电位的示意性曲线图。

[图10]示出了包括根据PWM方法的多个模拟电路的算术设备的配置示例的示图。

[图11]示出了包括根据PWM方法的多个模拟电路的算术设备的配置示例的示图。

[图12]示出了包括根据TACT方法的多个模拟电路的算术设备的配置示例的示图。

[图13]示出了包括根据TACT方法的多个模拟电路的算术设备的配置示例的示图。

[图14]示出了神经网络的配置示例的示意图。

[图15]示出了根据PWM方法的模拟电路的另一个示例的示意性电路图。

[图16]示出了根据PWM方法的模拟电路的另一个示例的示意性电路图。

[图17]用于描述根据图16所示模拟电路的乘法-累加信号的计算示例的示图。

具体实施方式

在下文中,将参照附图描述根据本技术的实施例。

[算术设备的配置]

图1是示出了根据本技术实施例的算术设备的配置示例的示意图。算术设备100是执行包括乘法-累加运算在内的预定算术处理的模拟型算术设备。例如,通过使用算术设备100,能够根据诸如神经网络之类的数学模型进行算术处理。

算术设备100包括多个信号线1、多个输入单元2和多个模拟电路3。信号线1中的每一个是传输预定类型的电信号的线。例如,通过使用诸如脉冲定时和脉冲宽度之类的模拟量来表示信号值的模拟信号被用作电信号。电信号传输的方向在图1中借助于箭头示意性地示出。在本实施例中,模拟电路3对应于乘法-累加装置。

例如,多个信号线1连接到一个模拟电路3。向模拟电路3传输电信号的信号线1是输入信号线,电信号被输入到该输入信号线中,以用于与该信号线1连接的模拟电路3。此外,传输从模拟电路3输出的电信号的信号线1是输出信号线,电信号从该输出信号线输出,以用于与该信号线1连接的模拟电路3。在本实施例中,输入信号线对应于输入线。

多个输入单元2各自生成对应于输入数据4的多个电信号。输入数据4例如是要使用由算术设备100实现的神经网络等进行处理的数据。因此,也可以说对应于输入数据4的多个电信号的相应信号值是算术设备100的输入值。

例如,将要由算术设备100处理的任意数据诸如图像数据、音频数据和统计数据用作输入数据4。例如,在图像数据用作输入数据4的情况下,生成使用图像数据的每个像素的像素值(RGB值、亮度值等)作为信号值的电信号。此外,可以根据输入数据4的类型和算术设备100执行的处理的内容适当地生成与输入数据4对应的电信号。

模拟电路3是基于输入电信号进行乘法-累加运算的模拟型电路。乘法-累加运算例如是将多个输入值乘以与输入值对应的权重值而得到的多个乘积值相加的运算。因此,也可以说乘法-累加运算是计算乘积值的总和(以下称为乘法-累加结果)的处理。

如图1所示,多个输入信号线连接到一个模拟电路3并且向其提供多个电信号。根据本实施例,多个输入信号线和模拟电路构成乘法-累加运算电路。此外,多个电信号从输入信号线中的每一个输入,因此根据本实施例的乘法-累加方法由乘法-累加运算电路(模拟电路3)执行。

在下文中,假设输入到一个模拟电路3的电信号的总数为N。应当注意的是,要输入到每个模拟电路3的电信号的数量N根据例如算术处理的模型、精度等针对每个电路适当地设置。

在模拟电路3中,例如计算wi*xi,其为由第i个输入信号线输入的电信号表示的信号值xi与对应于信号值xi的权重值wi的乘积值。这里,i表示等于或小于N的自然数(i=1,2,……,N)。对每个电信号(输入信号线)进行乘积值运算,计算出N个乘积值。通过将N个乘积值相加而获得的值被计算为乘法-累加结果(N个乘积值的总和)。因此,由一个模拟电路3计算的乘法-累加结果由以下表达式表示。

[公式1]

权重值wi被设置在例如-α≤wi≤+α的范围内。这里,α表示任意实数值。因此,权重值wi可以包括正权重值wi、负权重值wi、零权重值wi等。如上所述,通过将权重值wi设置成在预定范围内,可以避免乘法-累加结果发散的情况。

此外,例如,可以对设置权重值wi的范围进行归一化。在这种情况下,权重值wi设置在-1≤wi≤1的范围内。因此,例如,可以调整乘法-累加结果的最大值、最小值等,并且可以以期望的精度执行乘法-累加运算。

在神经网络等中,可以使用称为二元连接的方法,其将权重值wi设置为+α或-α。二元连接用于各种领域,诸如使用深度神经网络(多层神经网络)的图像识别。使用二元连接可以简化权重值wi的设置,而不会降低识别精度等。在二元连接中,正权重值和负权重值的绝对值固定为相同的值。

如上所述,在二元连接中,权重值wi被二元化为二元值(±α)。因此,例如,可以通过将权重值wi改变为正或负来容易地设置期望的权重值wi。可选地,二元化的权重值wi可以被归一化并且权重值wi可以被设置为±1。

此外,权重值wi可以是多值的。在这种情况下,通过从多个离散的权重值候选中进行选择来设置权重值wi。权重值候选的示例包括(-3,-2,-1,0,1,2,3)和(1,2,5,10)。此外,可以使用标准化的权重值候选(-1,-0.5,0,0.5,1)等。从这些权重值候选中选择一个值并将其设置为权重值wi。权重值候选的数量、设置候选值的方法等不受限制。例如,通过将权重值wi多值化,可以构建具有高通用性的神经网络等。

此外,权重值wi的设定范围、设定值等不受限制,并且例如可以适当地进行设置以实现期望的处理精度。例如,可以随机设置权重值wi

信号值xi例如是从输入单元2输出的电信号和从模拟电路3输出的乘法-累加结果。以此方式,也可以说输入单元2和模拟电路3起到输出信号值xi的信号源的作用。

在图1所示的示例中,从一个信号源(输入单元2、模拟电路3)输出单个电信号(单个信号值xi)。因此,相同的电信号被输入到连接到一个信号源的输出侧的多个信号线1中的每一个。此外,一个信号源和从该信号源输出的电信号被输入到其中的模拟电路3通过单个输入信号线彼此连接。

因此,例如,M个输入信号线连接到模拟电路3,该模拟电路连接到图1所示的算术设备100中的M个信号源。在这种情况下,输入模拟电路3的电信号总数N为N=M。应当注意的是,其中从一个信号源输出对应于正值和负值的一对电信号(一对信号值xi +、xi -)的配置是可能的。

如图1所示,算术设备100具有分层结构,其中多个模拟电路3设置在多个层中的每一个层中。通过配置模拟电路3的层结构,构建例如多层感知器型神经网络等。例如,适当地设计每层中设置的模拟电路的数量、层的数量等以使得可以执行期望的处理。在下文中,有时将设置在第j层中的模拟电路3的数量称为Nj

例如,由N个输入单元2生成的N个电信号被输入到设置在第一级的层(最低层)中的每个模拟电路3中。第一级的模拟电路3计算与输入数据的信号值xi相关的乘法-累加结果,并非线性转换处理之后将计算出的乘法-累加结果输出到下一层(第二级)的模拟电路3。

表示在第一级中计算出的相应乘法-累加结果的N1个电信号被输入到设置在第二层(上层)中的相应模拟电路3中。因此,从第二级的模拟电路3来看,第一级中计算出的相应乘法-累加结果的非线性转换处理结果就是电信号的信号值xi。第二级的模拟电路3计算从第一级输出的信号值xi的乘法-累加结果,并将计算出的乘法-累加结果输出到上层的模拟电路3。

以此方式,在算术设备100中,基于下层中的模拟电路3计算出的乘法-累加结果,计算上层中模拟电路3的乘法-累加结果。这样的处理被多次执行,并且处理结果从包含在顶层(图1中的第三级的层)中的模拟电路3输出。因此,例如,可以基于通过对猫成像而获得的图像数据(输入数据4)来执行诸如确定对象是猫的图像识别的处理。

如上所述,可以通过适当地连接多个模拟电路3来配置期望的网络电路。网络电路用作数据流处理系统,其通过例如使信号通过其中来执行算术处理。在网络电路中,可以通过适当地设置例如权重值(突触连接)来实现各种处理功能。通过该网络电路,来构建本实施例的乘法-累加系统。

应当注意的是,模拟电路3彼此连接的方法等没有限制,例如,也可以将多个模拟电路3彼此适当连接从而使得可以执行期望的处理。例如,即使在模拟电路3彼此连接以配置不同于分层结构的另一结构的情况下,也可以应用本技术。

在以上描述中,已经描述了将在下层计算的乘法-累加结果原样输入到上层的配置。本技术不限于此,例如,可以对乘法-累加结果执行转换处理等。例如,在神经网络模型中,执行例如通过使用激活函数对每个模拟电路3的乘法-累加结果进行非线性转换并将转换结果输入到上层的处理。

在算术设备100中,使用例如使用激活函数对电信号执行非线性转换的函数电路5等。函数电路5例如是设置在下层和上层之间并且适当地转换输入电信号的信号值并根据转换结果输出电信号的电路。例如,为信号线1中的每一个提供函数电路5。函数电路5的数量、函数电路5的布置等根据例如算术设备100中实现的数学模型适当地设置。

例如,ReLU函数(斜坡函数)等被用作激活函数。ReLU函数例如在信号值xi为0或更大的情况下原样输出信号值xi,否则输出0。例如,实现ReLU函数的函数电路5适当地连接到信号线1中的每一个。因此,可以实现算术设备100的处理。

图2是示出输入到模拟电路3中的电信号的示例的示意图。在图2的A和B的每一个中,示意性地示出了表示多个电信号的波形的曲线图。曲线图的横轴表示时间轴,纵轴表示电信号的电压。

图2的A中示出了根据脉冲宽度调制(PWM)方法的电信号的示例性波形。例如,PWM方法是通过使用脉冲波形的脉冲宽度τi来表示信号值xi的方法。即,在PWM方法中,电信号的脉冲宽度τi是取决于信号值xi的长度。

通常,脉冲宽度τi越长,信号值xi越高。

此外,电信号在预定的输入周期T内被输入到模拟电路3中。更具体地,相应电信号被输入到模拟电路3中,使得电信号的脉冲波形落在输入周期T内。因此,电信号的脉冲宽度的最大值与输入周期T相似。应当注意的是,每个脉冲波形(电信号)输入的定时等不受限制,只要脉冲波形落在输入周期T内即可。

在PWM方法中,例如,可以使用脉冲宽度τi与输入周期T的占空比Ri(=τi/T)来归一化信号值xi。即,归一化的信号值xi被表示为信号值xi=Ri。应当注意的是,将信号值xi与脉冲宽度τi关联的方法并受限制,例如,可以适当地设置表示信号值xi的脉冲宽度τi,从而使得可以以期望的精度执行计算处理等。

在使用根据PWM方法的电信号的情况下,可以执行使用根据PWM方法的模拟电路3的时间轴模拟乘法-累加运算。

在图2的B中,示出了尖峰定时方法(以下称为TACT方法)的电信号的示例性波形。例如,TACT方法是通过使用脉冲的上升定时来表示信号值xi的方法。例如,通过使用预定的定时作为参考,在与输入值相对应的定时输入脉冲。

电信号在预定的输入周期T内被输入到模拟电路3中。信号值xi由该输入周期T内的脉冲输入定时表示。例如,最大的信号值xi由与输入周期T开始同时输入的脉冲表示。最小信号值xi由与输入周期T结束同时输入的脉冲表示。

也可以说,信号值xi由从脉冲的输入定时到输入周期T的结束定时的持续时间表示。例如,最大信号值xi由一个脉冲表示,该脉冲从脉冲的输入定时到输入周期T的结束定时的持续时间等于输入周期T。最小的信号值xi由一个脉冲表示,其从脉冲的输入定时到输入周期T的结束定时的持续时间为0。

应当注意的是,在图2的B中,将上升到与输入值对应的定时并保持ON电平直到获得乘法-累加结果的连续脉冲信号用作根据TACT方法的电信号。本技术不限于此,并且根据TACT方法可以使用具有预定脉冲宽度的矩形脉冲等作为电信号。

在使用根据TACT方法的电信号的情况下,可以执行使用根据TACT方法的模拟电路3的时间轴模拟乘法-累加运算。

如图2的A和B中所示,其相对于输入周期T的ON时间的持续时间对应于输入值的脉冲信号可以用作对应于输入值的电信号。应当注意的是,以下将假设各个电信号所表示的信号值xi为0以上1以下的变量进行说明。

图3是示出算术设备100的具体配置示例的示意图。图3是用于实现例如图1所示的算术设备100的电路的布置示例,示意性地示出在算术设备100的一层中设置的多个模拟电路3。

每个模拟电路3包括一对输出线7、多个突触电路8和神经元电路9。如图3所示,一个模拟电路3被配置为沿预定方向(图中的垂直方向)延伸。在垂直方向上延伸的多个这样的模拟电路3在水平方向上并排布置,从而形成一层。以下假设图中最左侧的模拟电路3为第一模拟电路3。此外,有时将模拟电路3延伸的方向称为延伸方向。

一对输出线7沿延伸方向彼此间隔开。一对输出线7包括正电荷输出线7a和负电荷输出线7b。正电荷输出线7a和负电荷输出线7b中的每一个经由多个突触电路8连接到神经元电路9。

突触电路8计算由电信号表示的信号值xi与权重值wi的乘积值(wi*xi)。具体地,对应于乘积值的电荷(电流)被输出到正电荷输出线7a或负电荷输出线7b。

如稍后将描述的,正权重值wi +或负权重值wi -被设置到突触电路8。例如,对应于正权重值wi +的乘积值的正权重电荷被输出到正电荷输出线7a。此外,例如,对应于负权重值wi -的乘积值的负权重电荷被输出到负电荷输出线7b。

应当注意的是,在突触电路8中,无论权重值wi是正还是负,都输出具有相同符号的电荷(例如,正电荷)作为与乘积值对应的电荷。即,正权重电荷和负权重电荷成为具有相同符号的电荷。

以此方式,突触电路8的每一个被配置为根据权重值wi的符号将与乘法结果对应的电荷输出到不同的输出线7a或7b。稍后将详细描述突触电路8的具体配置。在该实施例中,多个突触电路8用作多个乘法单元,该多个乘法单元基于输入到多个输入线中的每一个的电信号生成与通过将输入值乘以权重值而获得的乘积值相对应的电荷。

在该实施例中,单个输入信号线6和一对输出线7连接到单个突触电路8。即,单个电信号被输入到单个突触电路8,并且对应于基于输入电信号计算的乘积值的电荷被输出到输出线7a或7b。因此,突触电路8是连接到单个输入信号线6和一对输出线7(正电荷输出线7a和负电荷输出线7b)的单输入双输出电路。

在一个模拟电路3中,多个突触电路8沿着一对输出线7布置。每个突触电路8并联连接到正电荷输出线7a(负电荷输出线7b)。在下文中,假设设置在最下游侧(连接到神经元电路9的一侧)的突触电路8是第一突触电路。

如图3所示,多个输入信号线6被布线成与多个模拟电路3中的每一个的一对输出线7相交。通常,输入信号线6设置为与每个输出线7正交。即,算术设备100具有输入信号线6和输出线7彼此交叉的纵横配置(crossbar configuration)。通过纵横配置,例如可以高密度集成模拟电路3等。

此外,在算术设备100中,包含在相应模拟电路3中的第j个突触电路8并联连接到第j个输入信号线6。因此,类似的电信号被输入到连接到同一输入信号线6的突触电路8。因此,可以实现将包含在下层中的一个信号源连接到包含在上层中的多个模拟电路3的配置。

应当注意的是,在图3所示的示例中,包含在下层中的模拟电路3(前神经元)被示意性地示出为将电信号输入到每个输入信号线6中的信号源。本技术不限于此,并且例如,在输入单元2用作信号源的情况下也可以使用纵横配置。

如上所述,在算术设备100中,多个模拟电路3并联连接到多个输入信号线6中的每一个。因此,例如,可以将电信号并行输入到每个模拟电路3(每个突触电路8)中并且实现高速算术处理。因此,可以表现出优异的运算性能。

神经元电路9基于由突触电路8计算的乘积值来计算表达式(公式1)所示的乘法-累加结果。具体而言,神经元电路9基于经由一对输出线7输入的电荷,输出表示乘法-累加结果(乘法-累加信号)的电信号。

图4是表示神经元电路9的配置示例的示意图。神经元电路9包括累加单元11和信号输出单元12。图4示出了连接到一对输出线7和单个输出信号线10的双输入单输出神经元电路9。应当注意的是,在一些情况下,可以使用双输入双输出电路等作为神经元电路9。

累加单元11累积由多个突触电路8输出到一对输出线7的电荷。累加单元11包括两个电容器13a和13b。电容器13a连接在正电荷输出线7a和GND之间。此外,电容器13b连接在负电荷输出线7b和GND之间。因此,从正电荷输出线7a和负电荷输出线7b流入的电荷相应地累积在电容器13a和13b中。

例如,当电信号的输入周期T已经过去时,在电容器13a中累积的电荷是正权重电荷的总和σ+,每个正权重电荷对应于正权重值wi +的乘积值。此外,在电容器13b中累积的电荷是对应于负权重值wi -的乘积值的负权重电荷的总和σ-

例如,在电容器13a中累积正权重电荷的情况下,正电荷输出线7a的以GND为基准的电位上升。因此,正电荷输出线7a的电位是取决于分别对应于正权重值wi +的乘积值的电荷总和σ+的值。应当注意的是,正电荷输出线7a的电位对应于电容器13a所保持的电压。

类似地,在电容器13b中累积负权重电荷的情况下,负电荷输出线7b以GND为基准的电位上升。因此,负电荷输出线7b的电位是取决于分别对应于负权重值wi -的乘积值的电荷总和σ-的值。应当注意的是,负电荷输出线7b的电位对应于电容器13b所保持的电压。

信号输出单元12基于在累加单元11中累积的电荷,输出表示乘积值(wi +*xi)的总和的乘法-累加信号。乘法-累加信号例如是表示总乘法-累加结果的信号,其为所有正负权重值wi与信号值xi的乘积值的总和。例如,由表达式(公式1)表示的乘法-累加结果可以写成如下。

[公式2]

这里,N+和N-分别是正权重值wi +的总数和负权重值wi -的总数。如表达式(公式2)所示,总乘法-累加结果可以计算为正权重电荷的乘法-累加结果(即正权重值wi +的乘积值(wi +*xi)的总和)与负权重电荷的乘法-累加结果(即负权重值wi -的乘积值(|wi -|*xi)的总和)之间的差。

在图4所示的示例中,信号输出单元12生成一个表示总乘法-累加结果的信号,例如,作为乘法-累加信号。具体地,通过适当参考累积在累加单元11(电容器13a和13b)中的电荷,计算正乘法-累加结果和负乘法-累加结果,并基于它们之间的差计算总乘法-累加结果。此外,例如,可以生成分别表示正乘法-累加结果和负乘法-累加结果的正乘法-累加信号和负乘法-累加信号这两个信号作为乘法-累加信号。

参考累加单元11中累积的电荷的方法不受限制。作为示例,将描述检测在一个电容器13中累积的电荷的方法。在使用根据图2的A所示的PWM方法的电信号的情况下,在输入周期T内在电容器13中累积各自对应于乘积值的电荷。也就是说,在输入周期T之前和之后,不会发生各自对应于乘积值的电荷的累积。

例如,在输入周期T结束之后,电容器13以预定的充电速度被充电。此时,使用比较器等来检测与电容器13连接的输出线的电位达到预定阈值电位的定时。例如,随着在开始充电时累积更多电荷,电位达到阈值电位的时间变得更早。因此,输入周期T内累积的电荷(乘法-累加结果)可以基于定时来表示。应当注意的是,充电速度例如可以用单位时间的充电量来表示,也可以称为充电速率。

应当注意的是,该阈值确定对应于通过充电来增大电容器13保持的电压并检测达到阈值电压的定时。

在使用根据图2的B所示的TACT方法的电信号的情况下,因为在输入周期T结束之后也保持ON电平,所以电荷在电容器13中累积。对于这种电荷累积,通过使用比较器等来检测与电容器13连接的输出线的电位达到预定阈值电位的定时。例如,随着在输入周期T结束时累积更多电荷,电位达到阈值电位的时间变得更早。因此,输入周期T内累积的电荷(乘法-累加结果)可以基于定时来表示。

应当注意的是,该阈值确定对应于检测电容器13保持的电压达到阈值电压的定时。

例如,通过执行这样的阈值确定,检测表示乘法-累加结果的定时。基于检测结果适当地生成正权重电荷的乘法-累加信号、负权重电荷的乘法-累加信号或总乘法-累加信号。另外,例如可以通过直接读取输入周期T结束时电容器13的电位来计算每个乘法-累加结果。

应当注意的是,取决于累积的正权重电荷的电压和取决于累积的负权重电荷的电压可以分别被放大以便生成乘法-累加信号。此外,乘法-累加信号可以通过放大取决于累积的正权重电荷的电压和取决于累积的负权重电荷的电压之间的差分电压来生成。例如,可以在神经元电路9中设置具有任意配置的差分放大器等。

在本实施例中,神经元电路9用作输出单元,该输出单元累积由多个乘法单元生成的对应于乘积值的电荷,并输出表示基于累积电荷的乘积值的总和的乘法-累加信号。此外,电容器13a和电容器13b用作正电荷累加单元和负电荷累加单元。神经元电路9累积由正权重乘法单元生成的正权重电荷和由负权重乘法单元生成的负权重电荷中的至少一种,从而输出乘法-累加信号。

此外,如后面将详细描述的,在本实施例中,配置了充电单元,并且在输入周期T之后对其中累积与乘积值对应的电荷的累加单元11(电容器13)进行充电。应当注意的是,根据本技术的充电包括在使用根据TACT方法的电信号的情况下通过保持ON电平的脉冲信号在电容器13中累积电荷。

信号输出单元12用作输出单元,以用于通过使用预定阈值对在充电单元开始充电后由累加单元11保持的电压进行阈值确定来输出表示乘积值的总和的乘法-累加信号。信号输出单元12通过针对正电荷累加单元和负电荷累加单元中的每一个执行阈值确定来输出乘法-累加信号。

[根据PWM方法的模拟电路]

图5是示出根据本实施例的模拟电路的示例的示意性电路图。在图5中,示出了根据PWM方法的模拟电路3的示例。模拟电路3被设置成在与多个输入信号线6正交的方向上延伸。即,在图5所示的示例中,采用了纵横配置。

模拟电路3包括一对输出线(正电荷输出线7a和负电荷输出线7b)、多个突触电路(多个乘法单元)8、神经元电路9和充电单元15。在图5所示的示例中,神经元电路9包括累加单元11、信号输出单元12以及开关16a和16b。

各自具有与信号值xi对应的脉冲宽度的脉冲信号(PWM信号)作为输入信号in1至in6被输入到多个输入信号线6。在图5所示的示例中,示出了六个输入信号线6,但是输入信号线6的数量不受限制。在具有预定持续时间的输入周期T内输入输入信号in1至in6(参见图6)。

正电荷输出线7a输出与均通过将信号值xi乘以正权重值wi +而获得的乘积值(wi +*xi)对应的正权重电荷。负电荷输出线7b输出与均通过将信号值xi乘以负权重值wi -而获得的乘积值(|wi -|*xi)对应的负权重电荷。在本实施例中,一对输出线7对应于一个或多个输出线。

多个突触电路8被设置为分别与多个输入信号线6相关联。在该实施例中,在一个输入信号线6中设置一个突触电路8。多个突触电路8中的每一个包括电阻器17,该电阻器连接在多个输入信号线6中对应的输入信号线6与正电荷输出线7a或负电荷输出线7b中的任一个之间。该电阻器17可以具有非线性特征并且可以具有防止电流回流的功能。对应于乘积值(wi +*xi)(或(|wi -|*xi))的电荷被输出到电阻器17所连接的输出线7a(或7b)。

例如,为了在每个突触电路8中将信号值xi乘以正权重值wi +,电阻器17连接在输入信号线6与正电荷输出线7a之间并且使正电荷输出线7a输出正权重电荷。在图5所示的示例中,输入有输入信号in1、in3、in6的突触电路8是被配置为生成正权重电荷的正权重乘法单元的突触电路8a。也可以说突触电路8a是设置了正权重的乘法单元。

为了在每个突触电路8中将信号值xi乘以负权重值wi -,电阻器17连接在输入信号线6与负电荷输出线7b之间并且使负电荷输出线7b输出负权重电荷。在图5所示的示例中,输入有输入信号in2、in4、in5的突触电路8是被配置为生成负权重电荷的负权重乘法单元的突触电路8b。也可以说突触电路8b是设置了负权重的乘法单元。

在下文中,突触电路8a和8b有时将被称为正权重乘法单元8a和负权重乘法单元8b。此外,有时将连接在输入信号线6和正电荷输出线7a之间的电阻器17称为正电阻器17a。此外,有时将连接在输入信号线6和负电荷输出线7b之间的电阻器17称为负电阻器17b。

应当注意的是,将具有与将设定的权重值wi对应的电阻值的电阻器用作电阻器17。即,电阻器17用作定义在模拟电路3处执行乘法-累加运算的算术设备100中的权重值wi的元件。

例如,固定电阻器元件、可变电阻器元件、在子阈值区域中工作的MOS晶体管等被用作电阻器17。例如,通过使用在子阈值区域中工作的MOS晶体管作为电阻器17,可以降低功耗。当然,可以使用其他任意电阻器。

累加单元11累积由多个突触电路8生成的对应于乘积值(wi*xi)的电荷。在该实施例中,设置两个电容器13a和13b作为累加单元11。

电容器13a经由开关16a连接至正电荷输出线7a以累积由突触电路8a生成的正权重电荷。电容器13b经由开关16b连接到负电荷输出线7b以累积由突触电路8b生成的负权重电荷。

充电单元15向累积了与乘积值(wi*xi)对应的电荷总和的累加单元11充电。在本实施例中,充电单元15包括信号源(未示出)、充电线19和两个电阻器20。

充电线19与输入信号线6平行布置。两个电阻器20中的电阻器20a连接在充电线19和正电荷输出线7a之间。另一个电阻器20b连接在充电线19和负电荷输出线7b之间。因此,充电线19经由电阻器20a连接到电容器13a。此外,充电线19经由电阻器20b连接到电容器13a。

使用具有相同电阻值的电阻器20a和20b。尽管通常使用相同的电阻器,但可以使用具有相同电阻值的不同类型的电阻器。电阻器20a和20b的具体配置不受限制,可以使用如电阻器17中的各种配置。此外,可以使用与电阻器17相同的电阻器或与电阻器17不同的电阻器作为电阻器20a和20b。

在输入周期T结束之后执行充电。在本实施例中,在输入周期T结束后经由充电线19输入充电信号CH。即,相同的充电信号CH从充电线19供应给电容器13a和13b。因此,基于充电信号CH的高电平值以及电阻器20a和20b的电阻值的电荷在电容器13a和13b中累积。

由于电阻器20a和20b的电阻值为彼此相等的值,所以电容器13a和13b以相同的充电速度充电。通过充电单元15的充电,正电荷输出线7a的电位V+(电容器13a保持的电压)和负电荷输出线7b的电位V-(电容器13b保持的电压)均被升高。

在充电单元15开始充电后,信号输出单元12基于预定阈值对累加单元11所保持的电压执行阈值确定,从而输出表示乘积值(wi*xi)的总和的乘法-累加信号。在该实施例中,提供两个比较器22a和22b以及信号生成单元23作为信号输出单元12。

比较器22a检测由电容器13a保持的电压超过预定阈值的定时。应当注意的是,电容器13a所保持的电压的大小由电容器13a中累积的正权重电荷的总量和电荷量(充电速度×时间)决定。

比较器22b检测由电容器13b保持的电压超过预定阈值的定时。应当注意的是,电容器13b所保持的电压的大小由电容器13b中累积的负权重电荷的总量和电荷量(充电速度×时间)决定。

应当注意的是,在本实施例中,通过对具有共同阈值θ的电容器13a和13b中的每一个进行阈值确定来输出乘法-累加信号。因此,可以提高运算的效率和速度。当然,在使用彼此不同的阈值的情况下,乘法-累加运算也是可以的。

信号生成单元23基于比较器22a检测到的定时和比较器22b检测到的定时,输出表示乘积值(wi*xi)的总和的乘法-累加信号。换言之,信号生成单元23基于电容器13a保持的电压达到阈值θ的定时和电容器13b保持的电压达到阈值θ的定时输出乘法-累加信号。

在该实施例中,作为其脉冲宽度已经被调制的脉冲信号的PMW信号被输出作为乘法-累加信号。信号生成单元23的具体电路配置等不受限制并且可以任意设计。

图6和图7是用于描述图5中所示的模拟电路3的乘法-累加信号的计算示例的示图。在本实施例中,根据基于电容器13a中累积的正权重电荷的正权重电荷乘法-累加结果以及基于电容器13b中累积的负权重电荷的负权重电荷乘法-累加结果,计算表示包括正值和负值的总乘法-累加结果的信号。

正权重电荷的乘法-累加结果的计算和负权重电荷的乘法-累加结果的计算是相同的处理。首先,将参照图6描述在不区分正值和负值的情况下根据电容器13中累积的电荷计算乘法-累加结果的方法(乘法-累加法)。

将描述图6中描述的参数。“t”表示时间。“T”表示输入周期和输出周期中的每一个。“tn”表示输入周期T的结束定时,“tm”表示输出周期T的结束定时。

在本实施例中,输入周期T的持续时间和输出周期T的持续时间被设置为彼此相等。此外,输出周期T从输入周期T的结束定时tn开始。因此,输入周期T的结束定时tn对应于输出周期T的开始定时。

此外,在本实施例中,充电单元15在输入周期T之后的输出周期T内进行充电。因此,输出周期T对应于充电周期。

“θ”表示用于由信号输出单元12(比较器22)执行的阈值确定的共同阈值。

“Si(t)”表示输入到第i个输入信号线6的输入信号(PWM信号)。“τi”表示输入信号Si(t)的脉冲宽度。“Pi(t)”表示图5所示的每个突触电路8中的内部状态(电位)的变化量。“wi”表示权重值并且由图5所示的电阻器17的电阻值定义。

“Vn(t)”表示“Pi(t)”的总和并且对应于电容器13中累积的电荷总量。“Sn(t)”表示乘法-累加信号(PWM信号),该信号表示乘法-累加结果。“τn”表示要输出的乘法-累加信号的脉冲宽度。具体地,“τn”表示与从由电容器13保持的电压在输出周期T中超过阈值θ的定时到输出周期T的结束定时tm的持续时间对应的值。

“CH(t)”是在作为充电周期的输出周期T中输入到充电线19中的充电信号。如图6所示,在本实施例中,在输出周期T期间变为ON电平的脉冲信号作为充电信号被输入。因此,充电信号的脉冲宽度τCH等于输出周期T内的充电信号的脉冲宽度。

在该示例中,提供了开关16a和16b,并且具体地,可以通过经由该开关断开输出线来改善功耗的降低。

这里,如以下表达式所示,输入值(信号值)xi由输入信号Si(t)的脉冲宽度τi相对于输入周期T的占空比Ri(=τ/T)给出。

[公式3]

图5中所示的突触电路8生成与通过将信号值xi乘以权重值wi获得的乘积值相对应的电荷。具体地,电阻器17的电阻以恒定斜率wi增大内部状态(电位)。

输入周期T的结束定时tn时的各突触电路8的内部电位的变化量Pi(tn)由以下表达式给出。应当注意的是,输入信号Si(t)的高电平值被设置为1。

[公式4]

Pi(tn)=wiRiT=wixiT

电容器13中累积的电荷总量Vn(tn)是Pi(tn)的总和,因此由以下表达式给出。

[公式5]

在输入周期T的结束定时tn时开始由充电单元15(电流源18)充电。如上所述,在本实施例中,输出周期T对应于充电周期。

通过由充电单元15充电,每个突触电路8的内部电位从输入周期T的结束定时tn起以斜率α增加。充电速度α由充电信号的高电平值和电阻器20的电阻值决定。应当注意的是,图6中省略了各突触电路8在输出周期T内的内部电位变化的图示(输入周期T结束时的内部电位的值以虚线示意性示出)。

高电平值等于输入信号的高电平值的脉冲信号可以用作充电信号。当然,也可以使用高电平值与输入信号的高电平值不同的脉冲信号。与输入信号不同的任何其他电信号都可以用作充电信号。

生成具有与从由电容器13保持的电压在输出周期T中超过阈值θ的定时到输出周期T的结束定时tm的持续时间相对应的脉冲宽度τn的乘法-累加信号(PWM信号)。

假设乘法-累加信号的脉冲宽度τn与输出周期T的占空比为Rn(=τn/T),Rn由以下表达式给出。应当注意的是,阈值θ等于或大于电荷总量Vn(tn)。

[公式6]

因此,将均通过将信号值xi与权重值wi相乘获得的乘积值(wi*xi)相加所获得的乘法-累加结果由以下表达式给出。

[公式7]

即,乘法-累加结果是通过从αRn=α·(τn/T)中减去由充电速度α、阈值θ和输出周期T定义的常数而获得的值。以此方式,可以基于在具有预定持续时间的输出周期T中由累加单元11保持的电压超过阈值θ的定时来输出表示乘法-累加结果的乘法-累加信号。

图7是示出表示基于正权重电荷和负权重电荷两者的乘法-累加结果的总乘法-累加结果的乘法-累加信号的计算示例的示意图。在图7中,表示正权重电荷的乘法-累加结果的乘法-累加信号用“Sn +(t)”表示,其脉冲宽度用“τn +”表示。此外,表示负权重电荷的乘法-累加结果的乘法-累加信号用“Sn -(t)”表示,其脉冲宽度用“τn -”表示。此外,表示总乘法-累加结果的乘法-累加信号用“Sn(t)”表示,其脉冲宽度用“τn”表示。

在输入周期T的结束定时tn时在电容器13a中累积的正权重电荷的总量Vn +(tn)由以下表达式给出。应当注意的是,wi +表示正权重值。

[公式8]

在输入周期T的结束定时tn时在电容器13b中累积的负权重电荷的总量Vn -(tn)由以下表达式给出。应当注意的是,wi -表示负权重值。

[公式9]

乘法-累加信号Sn +(t)为Rn +(=τn +/T),将通过将信号值xi乘以正权重值wi +获得的乘积值(wi +*xi)相加所获得的正乘法-累加结果由以下表达式给出。应当注意的是,假设阈值θ等于或大于正权重电荷的总量Vn +(tn)。

[公式10]

在负乘法-累加信号Sn -(t)的占空比为Rn -(=τn -/T)的情况下,将通过将输入值xi乘以负权重值wi -获得的乘积值(|wi -|*xi)相加所获得的负乘法-累加结果由以下表达式给出。应当注意的是,充电速度α和阈值θ等于表达式(公式10)中使用的值。此外,假设阈值θ等于或大于负权重电荷的总量Vn -(tn)。

[公式11]

因此,利用上述表达式(公式2),总乘法-累加结果由以下表达式给出。

[公式12]

即,总乘法-累加结果通过充电速度α、乘法-累加信号Sn +(t)的脉冲宽度τn +、乘法-累加信号Sn -(t)的脉冲宽度τn -以及输出周期T获得。即,可以基于比较器22a检测到的定时和比较器22b检测到的定时容易地计算乘法-累加结果。

如图7所示,可以容易地输出具有脉冲宽度“τn”的乘法-累加信号“Sn(t)”作为表示总乘法-累加结果的乘法-累加信号。应当注意的是,可以确定乘法-累积信号Sn +(t)的脉冲宽度τn +和乘法-累积信号Sn -(t)的脉冲宽度τn -中的哪一个较大。在脉冲宽度τn +较大的情况下的乘法-累加信号“Sn(t)”可以作为正乘法-累加信号输出,并且在脉冲宽度τn -较大的情况下的乘法-累加信号“Sn(t)”也可作为负乘法-累加信号输出。用于比较脉冲宽度τn +和脉冲宽度τn -的电路可以通过适当地使用AND电路、NOT电路等来实现。

还可以进行设置,使得在使用ReLU函数(斜坡函数)等的情况下,例如,当获得正乘法-累加信号“Sn(t)”时,信号为原样输出,当获得负乘法-累加信号“Sn(t)”时,输出0。

当设置充电速度α和阈值θ时,针对输出周期T设置α=θ/T。因此,通过包含在表达式(公式6)、(公式7)、(公式10)和(公式11)中的充电速度α、阈值θ和输出周期T确定的常数可以设置为零,并且可以简化处理。

例如,适当设置充电信号的高电平值和电阻器20的电阻值以调整充电速度α。阈值θ是基于输入周期T的持续时间设置的。因此,可以发挥有利的效果。

[根据TACT方法的模拟电路]

图8是示出根据TACT方法的模拟电路3的示例的示意性电路图。在与信号值xi对应的定时,脉冲信号(TACT信号)作为输入信号in1至in6被输入到多个输入信号线6中。

这里,如图2的B所示,输入上升到对应于输入值的定时并保持ON电平的连续脉冲信号。关于脉冲信号,相对于输入周期T的ON时间的持续时间对应于输入周期T中的输入值。在下文中,有时将输入周期T中的ON时间的持续时间称为输入周期T中的脉冲宽度。

在经过输入周期T的定时,电容器13a中累积的电荷是均与正权重值wi +的乘积值对应的正权重电荷的总和σ+。同样,在电容器13b中累积的电荷是均与负权重值wi -的乘积值对应的负权重电荷的总和σ-

由于在输入周期T结束后也维持电信号的ON电平,所以电荷在电容器13a和电容器13b中累积。基于电容器13a所保持的电压超过阈值θ的定时,生成表示正权重电荷的乘法-累加结果的乘法-累加信号(PWM信号)。

此外,基于电容器13b所保持的电压超过阈值θ的定时,生成表示负权重电荷的乘法-累加结果的乘法-累加信号(PWM信号)。可以基于这些正负乘法-累加信号生成表示总乘法-累加结果的乘法-累加信号。

在图8所示的根据TACT方法的模拟电路3中,输出周期T对应于充电周期。此外,在输出周期T中输入到多个输入信号线6的输入信号in1至in6对应于充电信号。

因此,图8所示的根据TACT方法的模拟电路3,相同的充电信号经由多个输入信号线6提供给电容器13a和13b。尽管图中未示出,但用于在输出周期T期间将输入信号in1至in6输入到多个输入信号线6的配置对应于充电单元15。因此,用于输入输入信号in1至in6的配置也用作充电单元15。如图8所示,也可以将多个输入信号线6本身视为充电单元15的一部分。

在此,发明人已经将时间常数视为与电容器13在输入周期T和输出周期(充电周期)T中的电荷累积相关联的参数。在上文中,输入周期T和输出周期T中的电荷累积被近似为线性变化并且使用“斜率wi”和“斜率α”来描述,如图6所示。当然,基于这种近似可以实现能够准确地执行包括乘法-累加运算在内的预定算术处理的模拟型算术设备100。

另一方面,考虑到电容器13的电荷(电位)根据由图5和图8所示的模拟电路3的电路配置确定的时间常数在输入周期T和输出周期(充电周期)T中被累积。因此,发明人认为通过适当地设计电路配置,可以在根据时间常数累积电荷的基础上实现更准确的乘法-累加运算。

在下文中,电容器13的电荷(电位)有时将被描述为用于向电容器13输出电荷的输出线7的(电荷)电位。

发明人发现了一种配置,该配置使得输出线7的时间常数与设置在输出线7和多个输入信号线6之间的电阻器17的数量无关。

首先,假设电容器13a和13b在功能上包括在输出线7a和7b中生成的寄生电容(未示出)。在这种情况下,电容器13a和13b可取的电容的最小值是在输出线7中生成的寄生电容。例如,即使在没有设置电容器13的情况下,也可以基于在输出线7a和7b中生成的寄生电容来累积电荷,并且可以基于阈值确定来生成乘法-累加信号。这同样适用于根据图5所示的PWM方法的模拟电路3。

输出线7的时间常数根据随着时间顺序输入的输入信号的数量和在能够将信号传输到输出线7的状态下的电阻器17(导通电阻)的数量而连续变化。这里,重点放在输入周期T结束时的时间常数上。在根据本实施例的TACT方法的模拟电路3中,信号在输入周期T结束时输入到所有输入信号线6中。因此,输入周期T结束时的输入信号数量取最大值和恒定值。结果,输入周期T结束时的时间常数根据导通电阻的数量连续变化。

这里,电阻器17的电阻值被设置为相同的电阻值R。换句话说,采用了二元连接配置。此外,每个突触电路8的寄生电容被设计成恒定电容C。由于电阻器17并联连接到一个输出线7,因此在连接N个电阻器17的情况下(导通电阻的数量为N)组合电阻为R/N。另一方面,由于突触电路8的数量为N,其等于电阻器17的数量,因此组合电容为NC。

例如,在不设置电容器13的情况下,基于每个突触电路8的寄生电容生成乘法-累加信号。在这种情况下,组合电阻×组合电容的值是RC,与电阻器17的数量(导通电阻的数量)无关,因此,在输入周期T结束时输出线7的时间常数也是RC,而与电阻器17的数量无关。

在安装了电容器13的情况下,电容器13的电容被设置为通过将预定常数C0乘以电阻器17的数量(导通电阻的数量)而获得的值(电阻器的数量17×C0)。因此,时间常数为R/N×(NC+NC0)=R×(C+C0),并且与电阻器17的数量无关。因此,可以使时间常数恒定而与电阻器17的数量无关。

因此,输入周期T结束时的每个输出线7的电位V可以由下表达式近似。

[公式13]

图9是用于描述输入周期T结束时每个输出线7的电位V的示意曲线图。将参考表达式(公式13)和图9描述在输入周期T结束时每个输出线7的电位V。应当注意的是,图9的曲线图中的时间常数曲线是对应于表达式(公式13)的曲线。

“Vc”表示常数并且是与经过等于或长于时间常数的时间之后电位的收敛值相对应的值。

“tave”表示在输入周期T内输入到输入信号线6的脉冲信号的脉冲宽度的平均值。

应当注意的是,直到输入周期T结束的每个输出线7的电荷的变化并不总是根据图9所示的时间常数曲线发生。发现至少在输入周期T结束时每个输出线7的电位V可以由表达式(公式13)近似。

另一方面,在输出周期(充电期间)T中,处于ON电平的输入信号in1至in6(充电信号)被输入到所有的输入信号线6。因此,可以认为输出周期(充电周期)T中的电荷变化是根据图9所示的时间常数曲线进行的。

这里,假设输入周期T的结束定时tn时的每个输出线7的电位V由表达式(公式13)近似表示为“Vtn”。此外,从输入周期T的结束定时tn起的时间(输出周期T内的时间)被设置为t。然后,输出周期T中每个输出线7的电位“Vout”可以通过以下等式来近似。

[公式14]

这里,如图9所示,根据与表达式(公式13)对应的时间常数曲线确定输入周期T和阈值θ。即,将输入周期T代入(公式13)的“tave”时的电位V被设置为阈值θ。因此,在输入周期T内的脉冲宽度最大的最大脉冲被输入到所有输入信号线6的情况下,在输入周期T的结束定时(输出周期T的开始定时)时,输出线7的电位超过阈值。

另一方面,在输入周期T内的脉冲宽度为0的脉冲被输入到所有的输入信号线6的情况下,输出线7的电位在输出周期T的结束定时超过阈值。因此,可以在输出周期T内以高分辨率精确计算乘法-累加信号。即,通过基于输入周期T的持续时间设置阈值θ,可以展现有利效果。

如图9所示,基于阈值θ对电容器13a和13b中的每一个执行阈值确定。因此,可以精确地生成和输出使用输入周期T中相应脉冲信号的脉冲宽度的平均值的“tave”作为脉冲宽度“τn”的乘法-累加信号“Sn(t)”。因此,发现乘法-累加信号“Sn(t)”的脉冲宽度“τn”也可以由表达式(公式13)近似。

不论用于连接输入信号线6和正电荷输出线7a的电阻器17的数量(即正权重乘法单元的数量)以及用于连接输入信号线6和负电荷输出线7b的电阻器17的数量(即负乘法单元的数量)如何在每个模拟电路3中进行组合,对正电荷输出线7a的电位V+和负电荷输出线7b的电位V-实现图9所示的乘法-累加运算。

因此,如图7所示,可以基于乘法-累加信号Sn +(t)的脉冲宽度τn +以及乘法-累加信号Sn -(t)的脉冲宽度τn -来计算表示总乘法-累加结果的乘法-累加信号“Sn(t)”。

应当注意的是,即使在采用其他配置的情况下,模拟电路3也被设计为使得正电荷输出线7a的时间常数等于负电荷输出线7的时间常数。因此,相对于正电荷输出线7a的电位V+和负电荷输出线7b的电位V-实现了图9所示的乘法-累加运算。

当然,本技术不限于采用二元连接配置的情况,其中正权重值wi +和负权重值wi -的绝对值被固定为相同值。

例如,正权重值wi +和负权重值wi -的绝对值是多值的。即,正权重值wi +和负权重值wi -的绝对值被设置为彼此不同的多个值中的任何一个。另选地,随机设置正权重值wi +和负权重值wi -的绝对值。

同样在这种情况下,模拟电路3被设计成使得正电荷输出线7a的时间常数等于负电荷输出线7的时间常数。因此,相对于正电荷输出线7a的电位V+和负电荷输出线7b的电位V-实现了图9所示的乘法-累加运算。

在本公开中,输出线7的时间常数包括在与通过多个突触电路8向输出线7输出对应于乘积值的电荷相关联的时间常数中。正电荷输出线7a的时间常数包括在与通过多个正权重乘法单元8a向正电荷输出线7a输出正电荷相关联的时间常数中。负电荷输出线7b的时间常数包括在与通过多个权重乘法单元8b向负电荷输出线7b输出权重电荷相关联的时间常数中。

接下来,考虑图5所示的根据PWM方法的模拟电路3。在图5所示的根据PWM方法的模拟电路3中,输入信号in1至in6在输入周期T内被输入到多个输入信号线6中。然后,在输出周期T内经由充电线19输入充电信号CH。

在此,输入周期T结束时的输出线7的电位V可以如TACT法那样通过表达式(式13)近似。即,如图9所示,可以根据输出线7的时间常数,用时间常数曲线近似。此后,充电线19和电阻器20的电阻值被设计为使得充电单元15根据相同的时间常数曲线进行充电。因此,实现了图9所示的乘法-累加运算。

例如,在图5所示的配置中,使正电阻器17a的组合电阻和连接到充电线19的电阻器20a的电阻值相等。因此,相对于正电荷输出线7a实现了图9所示的乘法-累加运算。此外,使负电阻器17b的组合电阻和连接到充电线19的电阻器20b的电阻值相等。因此,相对于负电荷输出线7b实现了图9所示的乘法-累加运算。

例如,模拟电路3被设计成使得在输入周期T中正电荷输出线7a的时间常数和负电荷输出线7b的时间常数相等。然后,使正电阻器17a的组合电阻和电阻器20a的电阻值相等,并使负电阻器17b的组合电阻和电阻器20b的电阻值相等。

因此,根据相对于正电荷输出线7a的电位V+和负电荷输出线7b的电位V-的相同时间常数来实现图9所示的乘法-累加运算。因此,可以精确地生成和输出具有输入周期T中的相应脉冲信号的脉冲宽度的平均值作为脉冲宽度“τn”的乘法-累加信号“Sn(t)”。

当然,本技术的应用不限于实现图9所示的乘法-累加运算的情况。作为根据PWM方法的模拟电路3和根据TACT方法的模拟电路3,可以执行其他配置和其他乘法-累加运算。在任何情况下,乘法-累加运算的结果都可以基于正电荷输出线7a的电位(电容器13a中保持的电压)V+和负电荷输出线7b的电位(电容器13b中保持的电压)V-来获得。

在本实施例中,根据PWM方法的模拟电路3和根据TACT方法的模拟电路3均包括多个输入信号线6、多个突触电路8、累加单元11、充电单元15和信号输出单元12。

累加单元11包括能够累积由突触电路(正权重乘法单元)8a生成的正权重电荷的电容器13a和能够累积由突触电路(负权重乘法单元)8b生成的负权重电荷的电容器13b。

充电单元15在输入周期T之后对电容器13a和13b充电。信号输出单元12可以通过使用预定阈值对电容器13a和13b中的每一个进行阈值确定来输出乘法-累加信号。应当注意的是,预定阈值可以基于输入周期的持续时间进行设置。

图10至图13是各自示出算术设备100的配置的示例的示意图。

图10至图13所示的算术设备100包括多个输入信号线6和与多个输入信号线6并联连接的多个模拟电路3。通过采用这样的配置,可以将电信号并行输入到每个模拟电路3中,并且可以提高算术处理速度。因此,可以表现出优异的运算性能。

在图10和图11所示的算术设备100中,参考图5至图7描述的根据PWM方法的模拟电路3被布置为多个模拟电路3。在图12和13所示的算术设备100中,参考图8和9描述的根据TACT方法的模拟电路3被布置为多个模拟电路3。

本实施例中,充电单元15以共同充电模式对多个模拟电路3执行充电。此外,共同阈值被设置为用于神经元电路9中的信号输出单元12的阈值确定的预定阈值。即,在每个模拟电路3中以相同的充电模式执行充电并且使用相同的阈值执行阈值确定。

在模拟电路3中,对电容器13a和13b中的每一个执行共同充电模式。即,在共同充电模式下对包括在多个模拟电路3中的多个电容器13a和13b执行充电。然后,通过使用共同阈值在多个模拟电路3处执行阈值确定,并输出乘法-累加信号。

共同充电模式可以是在共同充电周期内为每个模拟电路3供应充电信号的充电。此外,共同充电模式还包括在每个模拟电路3中供应有相同充电信号的模式。此外,共同充电模式包括以共同充电速度(充电速率)充电、根据共同时间常数充电等。当然,本技术不限于此。

例如,如图10和图11所示,为多个模拟电路3布置共同充电线19。充电线19被布置为平行于多个输入信号线6。电阻器20a连接在每个模拟电路3的充电线19和正电荷输出线7a之间。电阻器20b连接在每个模拟电路3的充电线19和负电荷输出线7b之间。

在输出周期(充电期间)T期间变为ON电平的充电信号经由充电线19输入。因此,可以在共同充电周期中提供相同的充电信号。全部具有相同电阻值的电阻器被布置为电阻器20a和20b。因此,可以以共同的充电速度以共同的充电速率进行充电。

例如,假设在共同充电周期中以共同充电速度进行充电。在这种情况下,每个模拟电路3的正电荷输出线7a的电位和负电荷输出线7b的电位根据充电速度α上升,如图6所示。

因此,如图7所示,可以基于每个模拟电路3中的乘法-累加信号Sn +(t)的脉冲宽度τn +以及乘法-累加信号Sn -(t)的脉冲宽度τn -来计算表示总乘法-累加结果的乘法-累加信号“Sn(t)”。

此外,每个模拟电路3和充电单元15被设计成使得每个输出线7(正电荷输出线7a或负电荷输出线7b)在输出周期T中的时间常数是共同值。在这种情况下,可以实现根据共同时间常数进行充电。

每个模拟电路3被设计成使得在多个模拟电路3的每一个中在输入周期T中正电荷输出线7a的时间常数和负电荷输出线7b的时间常数相等并且使得时间常数的值是所有模拟电路3中的共同值。然后,充电单元15被设计成使得输出周期T中正电荷输出线7a的时间常数和负电荷输出线7b的时间常数等于输入周期T中的时间常数。因此,在每个模拟电路3中实现了图9所示的乘法-累加运算。应当注意的是,该阈值是基于输入周期T根据时间常数曲线确定的,并且被设置为共同阈值。

此外,如图12和图13所示,输入信号被输入为使得在输出周期T中保持ON状态。因此,执行在共同充电周期期间供应相同充电信号的充电。

此外,每个模拟电路3和充电单元被设计成使得每个输出线7(正电荷输出线7a、负电荷输出线7b)的时间常数是共同值。在这种情况下,可以实现根据共同时间常数进行充电。因此,可以在每个模拟电路3中实现图9所示的乘法-累加运算。应当注意的是,该阈值是基于输入周期T根据时间常数曲线确定的,并且被用作共同阈值。

在此,发明人还考虑了在执行根据共同充电模式的充电时以及在执行使用共同阈值的阈值确定时模拟电路3的乘法-累加信号的输出。然后,发明人发现,通过在共同输出周期T中从每个模拟电路3适当地输出乘法-累加信号,提高了乘法-累加运算的精度。换言之,发明人发现通过增加能够在共同输出周期T内输出乘法-累加信号的模拟电路的数量来提高乘法-累加运算的精度。

例如,假设在图10和图11所示的算术设备100中采用二元连接配置。在二元连接中,正权重值和负权重的绝对值固定为相同的值。即,电阻器17的电阻值全部固定为相同的值。

在图10所示的配置中,在每个模拟电路3处,正电阻器17a的数量和负电阻器17b的数量的总和被设置为共同值(七)。因此,利用图10所示的配置,在多个模拟电路3中,通过将在多个突触电路8中设置的正权重值的总和(下文中称为正总和值)和在多个突触电路8设置的负权重值的绝对值的总和(下文中称为负总和值)相加而获得的值为共同值。

应当注意的是,正总和值和负总和值相加得到的值对应于多个突触电路8中设置的权重值的绝对值的总和,在下文中将被称为权重总和值。

在图11所示的配置中,在每个模拟电路3处,正电阻器17a的数量和负电阻器17b的数量的总和未被设置为共同值。例如,电阻器17的总数量可以设置为彼此不同的多个数量中的任意数量。另选地,可以随机设置电阻器17的总数量。

因此,利用图11所示的配置,在多个模拟电路3中,通过将正的总和值和负的总和值相加而获得的值(权重总和值)不是共同值。例如,可以实现权重总和值是彼此不同的多个值中的任一个的配置。另选地,也可以实现权重总和值为随机值的配置。

应当注意的是,在图11所示的配置中,存在正电阻器17a和负电阻器17b两者均未设置的突触电路8。这样的突触电路8可以说是乘法-累加运算中权重值为零的项对应的乘法单元。

关于图10和图11中所示的配置,假设采用除二元连接之外的配置。正权重值和负权重值的绝对值是多值的。另选地,随机设置正权重值和负权重值的绝对值。

对于通过将正总和值和负总和值相加而获得的值(权重总和值),可以实现该值是共同值的配置、该值是彼此不同的多个值中的任何一个的配置以及该值是随机值的配置中的任一种。

例如,图10和图11中所示的算术设备100可以在权重总和值为共同值或权重总和值为彼此不同的多个值中的任一个的条件下适当地使用具有多值化电阻值的电阻器17或具有随机电阻值的电阻器17来实现。

这同样适用于图12和图13所示的算术设备100。例如,在采用二元连接配置的情况下,利用图12所示的配置,权重和总值是多个模拟电路3中的共同值。利用图13所示的配置,权重总和值不是多个模拟电路3中的共同值。例如,可以实现权重总和值是彼此不同的多个值中的任一个的配置。另选地,也可以实现权重总和值为随机值的配置。

关于图12和图13中所示的配置,假设采用除二元连接之外的配置。在这种情况下,可以实现权重总和值为共同值的配置、权重总和值为彼此不同的多个值中的任何值的配置以及权重总和值为随机值的配置中的任一种。

在具有此类各种配置的多输入×多输出算术设备100上执行根据共同充电模式的充电和使用共同阈值的阈值确定,从而使每个模拟电路3适当地输出乘法-累加信号。为此,发明人着眼于每个模拟电路3中的权重总和值、正总和值和负总和值。

然后,发明人新设计了基于多个模拟电路3之间的权重总和值的最大值来执行充电并且使用基于多个模拟电路3之间的总值权重总和值的最大值的阈值来执行阈值确定。即,发明人新设计了基于多个模拟电路3中的权重总和值之间的最大值进行充电并且使用基于最大值的阈值进行阈值确定的技术。

例如,在图10和图11所示的配置中,在将权重总和值最大的模拟电路3中包括的所有电阻器17并联连接的情况下的组合电阻被用作共同电阻值。然后,所有电阻器20a和20b的电阻值统一为该共同电阻值。在这种情况下,在输出周期T内实现了根据共同时间常数的充电。

这种充电对应于其中使用与通过权重总和值为最大值的多个突触电路8将与乘积值对应的电荷输出到输出线7相关联的时间常数作为共同时间常数的充电。

该阈值是基于输入周期T根据时间常数曲线确定的,该时间常数曲线由电阻值共同定义。因此,可以使每个模拟电路3在共同输出周期T内输出乘法-累加信号。因此,可以提高乘法-累加运算的精度。应当注意的是,阈值对应于基于最大值的阈值。

此外,发明人新设计了基于多个模拟电路3中的正总和值和负总和值中的最大值来执行充电,并且使用基于多个模拟电路3中的正总和值和负总和值中的最大值的阈值来执行阈值确定。即,发明人设计了在所有多个模拟电路3上比较每个模拟电路3的正总和值和负总和值,基于它们中的最大值进行充电,并使用基于最大值的阈值执行阈值确定。

在此,将多个模拟电路3中的正总和值和负总和值中的最大值定义为最大总和值。

与最大总和值相关的正权重电荷或负权重电荷被定义为最大权重电荷。例如,假设多个模拟电路3中的一个模拟电路3的正总和值为最大总和值。则在输入周期T中,从该模拟电路3中的正电荷输出线7a输出的正电荷是最大权重电荷。

另选地,假设一个模拟电路3的负总和值为最大总和值。则在输入周期T中,从该模拟电路3中的负电荷输出线7b输出的负电荷是最大权重电荷。

应当注意的是,最大权重电荷是与输入信号的电平等无关的参数。即无论输入什么信号作为输入信号,从正权重输出线或负权重输出线输出的正权重电荷或负权重电荷(为最大总和值)为最大权重电荷。

从中输出最大权重电荷的正电荷输出线或负电荷输出线被定义为最大电荷输出线。

在图12和图13所示的配置中,连接到最大电荷输出线的电阻器17的组合电阻被用作共同电阻值。然后,所有电阻器20a和20b的电阻值统一为该共同电阻值。在这种情况下,在输出周期T内实现了根据共同时间常数的充电。应当注意的是,连接到最大电荷输出线的电阻器17的组合电阻是与最大总和值对应的参数。

这种充电对应于将与最大权重电荷输出到最大电荷输出线相关联的时间常数用作共同时间常数的充电。

该阈值是基于输入周期T根据时间常数曲线确定的,该时间常数曲线由电阻值共同定义。因此,可以使每个模拟电路3在共同输出周期T内输出乘法-累加信号。因此,可以提高乘法-累加运算的精度。应当注意的是,阈值对应于基于最大总和值的阈值。

应当注意的是,假设所有电阻器17仅连接到正电荷输出线和负电荷输出线之一的模拟电路3的权重总和值为多个模拟电路3中的最大值。在这种情况下,权重总和值的最大值也是最大总和值,其为正总和值和负总和值中的最大值。因此,在相同的充电模式下进行充电,并且使用相同的阈值进行阈值确定。

在图12和图13所示的配置中,在将输出周期T中的充电信号输入到模拟电路3包括的所有电阻器17所并联连接的输出线的情况下,根据时间常数曲线设置阈值,该模拟电路的权重总和值为最大值。应当注意的是,在实际中并不总是存在其权重总和值为最大值的模拟电路3中包括的所有电阻器17所并联联接的输出线。

通过设置这样的阈值,可以在共同输出周期T期间在每个模拟电路3中输出乘法-累加信号。因此,可以提高乘法-累加运算的精度。应当注意的是,阈值对应于基于最大值的阈值。

此外,在输出周期T中输入充电信号的情况下,阈值根据时间常数曲线被设置到最大电荷输出线。因此,乘法-累加信号可以在共同输出周期T期间在每个模拟电路3中输出。因此,可以提高乘法-累加运算的精度。应当注意的是,阈值对应于基于最大总和值的阈值。

应当注意的是,假设所有电阻器17仅连接到正电荷输出线和负电荷输出线之一的模拟电路3的权重总和值为多个模拟电路3中最大值。在这种情况下,权重总和值的最大值也是正总和值和负总和值中的最大值的最大总和值。因此,以相同的阈值执行阈值确定。

当然,本技术不限于这种充电模式和阈值的设置。可以采用任何实现根据共同充电模式进行充电和使用共同阈值确定阈值的配置和方法。此外,这些配置和方法可以与用于实现上述图9所示的乘法-累加运算的配置和方法等组合。

图14是示出神经网络的配置示例的示意图。例如,如图14所示,神经网络是通过执行多个乘法-累加运算、多个归一化处理和多个池化处理来实现的。

此处,乘法-累加运算对应于通过包括多个模拟电路3的算术设备100输出多个乘法-累加结果。归一化处理是将输入信号归一化以供下一级的乘法-累加运算的输入的处理。池化处理是根据下一级的乘法-累加运算的输入数量来减少输入信号数量的处理。通过归一化处理和池化处理,可以简化处理并缩短处理时间。

应当注意的是,在图14中,示出了执行乘法-累加运算1至8中的每一个的算术设备100由以共同时间常数设计的多个模拟电路3构成的情况。即,在每个算术设备100中以共同充电模式执行根据共同时间常数的充电。

在每个算术设备100中,共同输入周期T和共同阈值θ是基于共同时间常数曲线设置的。另一方面,在图14所示的示例中,对不同的算术设备100设置不同的输入周期T和不同的阈值。本发明技术不限于此,可以对所有算术设备100设置共同输入周期T和共同阈值θ。

当然,算术设备100由模拟电路3构成,模拟电路各自具有另一种配置并且可以执行乘法-累加运算。同样在这种情况下,可以通过在每个模拟电路3中设置共同充电模式和共同阈值来实现高效且高速的算术处理。

如上所述,在根据本实施例的算术设备100中,针对一个或多个模拟电路3执行共同充电模式并且设置共同阈值。因此,可以在执行乘法-累加运算的模拟电路中实现高效且高速的算术处理。即,通过并联布置多组多个模拟电路3,能够通过一次输入同时并行运算,并且实现高速运算和高效运算。

<其他实施例>

本发明技术不限于上述实施例,并且可以实现各种其他实施例。

图15是示出了根据PWM方法的模拟电路3的另一示例的示意性电路图。在图15所示的模拟电路3中,设置两个电流源25a和25b作为充电单元15。

电流源25a经由开关16c连接到电容器13a的连接到正电荷输出线7a的一侧(与GND相反的一侧)。电流源25b经由开关16d连接到电容器13b的连接到负电荷输出线7b的一侧(与GND相反的一侧)。

在图15所示的模拟电路3中,电容器13a和13b由电流源25a和25b以相同的充电速度进行充电。因此,正电荷输出线7a的电位V+(电容器13a保持的电压)和负电荷输出线7b的电位V-(电容器13b保持的电压)均被升高。电流源25的具体配置不受限制,可以任意设计。

甚至在采用这种配置的情况下,也可以对一个或多个模拟电路3执行根据共同充电模式的充电和使用共同阈值的阈值确定。例如,在多个模拟电路3并联布置的情况下,执行根据共同充电模式的充电和使用共同阈值的阈值确定。因此,可以实现高效且高速的算术处理。

图16是示出了根据PWM方法的模拟电路3的另一示例的示意性电路图。图17是用于描述图16所示的模拟电路3的乘法-累加信号的计算的示例的示图。

在图16所示的模拟电路3中,差分放大电路26输出对应于正权重电荷总量和负权重电荷总量之间的差的电荷(V+-V-),并且电荷(V+-V-)被存储在包含在累加单元11中的电容器13中。差分放大电路26的具体结构不受限制,可以任意设计。

在输入周期T的开始定时,开关16a、16b和16c接通并且开关16d断开。然后,输入信号在输入周期T内输入。差分放大电路26输出的电荷(V+-V-)在电容器13中累积。应当注意的是,图17中省略了输入周期T中的电荷累积状态的图示。

在输入周期T的结束定时tn,开关16c断开,开关16d接通。然后,如图17所示,在输入周期T的结束定时tn开始充电单元15(电流源25)的充电。

此外,信号输出单元12的比较器22检测电容器13保持的电压超过阈值θ的定时。基于检测到的定时,信号生成单元23计算乘法-累加信号(PWM信号)“Sn(t)”。

因此,可以通过对与正权重电荷总量和负权重电荷总量之间的差值(V+-V-)相对应的电荷进行阈值确定来输出乘法-累加信号“Sn(t)”。此外,可以对一个或多个模拟电路3执行根据共同充电模式的充电和使用共同阈值的阈值确定。例如,在多个模拟电路3并联布置的情况下,执行根据共同充电模式的充电和使用共同阈值的阈值确定。因此,可以实现高效且高速的算术处理。

在以上描述中,主要描述了多个模拟电路并联布置的情况。本发明技术不限于此,也可以应用于单个模拟电路。例如,正权重值累加单元和负权重累加单元在共同充电模式下充电。然后,使用共同阈值对正权重电荷和负权重电荷进行阈值确定。因此,可以实现高效且高速的算术处理。

在以上描述中,已经例示了基于由累加单元保持的电压增加超过阈值的定时来输出乘法-累加信号的情况。然而,可以采用基于由累加单元保持的电压降低超过阈值电压的定时来输出乘法-累加信号的配置。例如,预先进行充电,直到用作累加单元的电容器的电压达到预定的预设值。在均对应于信号值和权重值的乘积值的电荷的总和被累积之后,电容器以预定速率放电。在这种情况下,可以基于电容器保持的电压降低超过阈值的定时来输出乘法-累加信号。当然,本技术不限于这种配置。应当注意的是,在本公开中,对电容器进行负电荷充电包括对电容器放电。

在以上描述中,已经描述了使用一对输出线的情况。本发明技术不限于此,并且可以提供三个或更多个输出线。即,上述本发明技术也可以应用于使用一个或多个任意数量的输出线的情况。例如,乘法单元包括电阻器,该电阻器连接在相关联的输入线和一个或多个输出线中的任何一个之间并定义权重值,并将与乘积值对应的电荷输出到电阻器所连接的输出线。当然,本技术不限于此。

以上参考附图所述的算术设备、乘法-累加装置、模拟电路、突触电路、神经元电路等的配置,生成乘法-累加信号的方法等仅属于实施例,并且可以在不脱离本技术的主旨的情况下任意修改。即,可以采用用于执行本发明技术的任何其他配置、方法等。

在本公开中,“相同”、“相等”、“正交”、“平行”等概念包括“基本相同”、“基本相等”、“基本正交”、“基本平行””等。例如,还包括在参考“完全相同”、“完全相等”、“完全正交”、“完全平行”等的预定范围(例如,±10%的范围)内的状态。

也可以组合上述本技术的至少两个特征。换句话讲,在各个实施例中描述的各种特征可以被任意地组合而与实施例无关。此外,上述各种效果不是限制性的而仅仅是说明性的,并且可以提供其他效果。

应当注意的是,本技术还可以采用以下配置。

(1)一种算术设备,包括:

多个输入线,对应于输入值的电信号在预定输入周期内输入至每个输入线;以及

一个或多个乘法-累加装置,每个乘法-累加装置包括

多个乘法单元,所述多个乘法单元基于输入到所述多个输入线中的每一个的所述电信号生成与通过将所述输入值乘以权重值而获得的乘积值相对应的电荷,

累加单元,所述累加单元累积由所述多个乘法单元中的每一个生成的与所述乘积值对应的电荷,

充电单元,所述充电单元在所述输入周期之后对其中累积与所述乘积值对应的电荷的所述累加单元进行充电,以及

输出单元,在通过所述充电单元开始充电之后,所述输出单元通过使用预定阈值对所述累加单元保持的电压执行阈值确定,输出表示所述乘积值的总和的乘法-累加信号,其中

在所述一个或多个乘法-累加装置中,通过所述充电单元的充电以共同充电模式执行,并且共同阈值被设置为所述预定阈值。

(2)根据(1)所述的算术设备,其中

所述一个或多个乘法-累加装置是并联连接到所述多个输入线的多个乘法-累加装置。

(3)根据(1)或(2)所述的算术设备,其中

所述共同充电模式包括在共同充电周期期间供应有相同充电信号的充电。

(4)根据(1)至(3)中任一项所述的算术设备,其中

所述共同充电模式包括以共同充电速度进行充电。

(5)根据(1)至(4)中任一项所述的算术设备,其中

所述共同充电模式包括根据共同时间常数进行充电。

(6)根据(1)至(5)中任一项所述的算术设备,其中

将设置在所述多个乘法单元中的所述权重值的绝对值的总和定义为权重总和值,所述共同充电模式包括基于在所述一个或多个乘法-累加装置中所述权重总和值的最大值的充电。

(7)根据(5)或(6)所述的算术设备,其中

所述一个或多个乘法-累加装置中的每一个包括电荷输出线,

所述多个乘法单元将与所述乘积值对应的电荷输出至所述电荷输出线,以及

共同充电模式包括其中使用与通过所述权重总和值为最大值的所述多个乘法单元将与所述乘积值对应的电荷输出到所述电荷输出线相关联的时间常数作为所述共同时间常数的充电。

(8)根据(1)至(7)中任一项所述的算术设备,其中

所述共同阈值基于所述输入周期的持续时间来设置。

(9)根据(1)至(8)中任一项所述的算术设备,其中

将在所述多个乘法单元中设置的所述权重值的绝对值的总和定义为权重总和值,所述共同阈值基于在所述一个或多个乘法-累加装置中所述权重总和值的最大值进行设置。

(10)根据(1)至(9)中任一项所述的算术设备,其中

所述共同充电模式包括在所述共同充电周期期间供应有相同充电信号的充电,并且

所述充电单元包括充电线,所述充电线连接到所述累加单元并且在所述共同充电周期期间向所述累加单元供应所述相同充电信号。

(11)根据(1)至(9)中任一项所述的算术设备,其中

所述共同充电模式包括在所述共同充电周期期间供应有相同充电信号的充电,并且

所述充电单元在所述共同充电周期期间经由所述多个输入线向所述累加单元供应所述相同充电信号。

(12)根据(1)至(11)中任一项所述的算术设备,其中

所述多个乘法单元包括正权重乘法单元和负权重乘法单元中的至少一个,所述正权重乘法单元生成与通过将所述输入值乘以正权重值获得的乘积值相对应的正权重电荷,所述负权重乘法单元生成与通过将所述输入值乘以负权重值获得的乘积值相对应的负权重电荷,

所述累加单元包括正电荷累加单元和负电荷累加单元,所述正电荷累加单元能够累积由所述正权重乘法单元生成的所述正权重电荷,所述负电荷累加单元能够累积由所述负权重乘法单元生成的所述负权重电荷,

所述充电单元在所述共同充电模式下对所述正电荷累加单元和所述负电荷累加单元进行充电,并且

所述输出单元通过使用所述共同阈值对所述正电荷累加单元和所述负电荷累加单元中的每一个进行阈值确定来输出所述乘法-累加信号。

(13)根据(12)所述的算术设备,其中

将在所述多个乘法单元中设置的所述正权重值的总和定义为正总和值,并且将所述负权重值的绝对值的总和定义为负总和值,所述共同充电模式包括基于所述一个或多个乘法-累加装置中的所述正总和值和所述负总和值中的最大值的充电。

(14)根据(13)所述的算术设备,其中

所述一个或多个乘法-累加装置中的每一个包括正电荷输出线和负电荷输出线,

所述正电荷乘法单元将所述正权重电荷输出到所述正电荷输出线,

所述负电荷乘法单元将所述负权重电荷输出到所述负电荷输出线,以及

假设所述一个或多个乘法-累加装置中的所述正总和值和所述负总和值中的所述最大值为最大总和值,则

与所述最大总和值相关的所述正权重电荷或所述负权重电荷为最大权重电荷,以及

从中输出所述最大权重电荷的所述正电荷输出线或所述负电荷输出线为最大电荷输出线,

将与到所述最大电荷输出线的所述最大权重电荷的输出相关联的时间常数定义为共同时间常数,所述共同充电模式包括根据所述共同时间常数的充电。

(15)根据(12)至(14)中任一项所述的算术设备,其中

将在所述多个乘法单元中设置的所述正权重值的总和定义为正总和值,并且将所述负权重值的绝对值的总和定义为负总和值,所述共同阈值基于所述一个或多个乘法-累加装置中的所述正总和值和所述负总和值中的最大值进行设置。

(16)根据(12)至(15)中任一项所述的算术设备,其中

所述正权重值和所述负权重值的绝对值被固定为相同的值、设置为彼此不同的多个值中的任意一个,或者随机设置,以及

在所述一个或多个乘法-累加装置中,通过将所述正总和值和所述负总和值相加而获得的值为共同值。

(17)根据(12)至(15)中任一项所述的算术设备,其中

所述正权重值和所述负权重值的绝对值被固定为相同的值、设置为彼此不同的多个值中的任意一个,或者随机设置,以及

在所述一个或多个乘法-累加装置中,通过将所述正总和值和所述负总和值相加而获得的值为随机值。

(18)根据(12)至(17)中任一项所述的算术设备,其中

所述共同充电模式包括在所述共同充电周期期间供应有相同充电信号的充电,并且

所述充电单元包括充电线,所述充电线连接到所述正电荷累加单元和所述负电荷累加单元,并且在所述共同充电周期期间向所述正电荷累加单元和所述负电荷累加单元供应所述相同充电信号。

(19)根据(12)至(18)中任一项所述的算术设备,其中

所述共同充电模式包括在所述共同充电周期期间供应有相同充电信号的充电,并且

所述充电单元在所述共同充电周期期间经由所述多个输入线向所述正电荷累加单元和所述负电荷累加单元供应所述相同充电信号。

(20)一种乘法-累加系统,包括:

多个输入线,对应于输入值的电信号在预定输入周期内输入至每个输入线;

一个或多个模拟电路,每个模拟电路包括

多个乘法单元,所述多个乘法单元基于输入到所述多个输入线中的每一个的所述电信号生成与通过将所述输入值乘以权重值而获得的乘积值相对应的电荷,

累加单元,所述累加单元累积由所述多个乘法单元中的每一个生成的与所述乘积值对应的电荷,

充电单元,所述充电单元在所述输入周期之后对其中累积与所述乘积值对应的电荷的所述累加单元进行充电,以及

输出单元,在通过所述充电单元开始充电之后,所述输出单元通过使用预定阈值对所述累加单元保持的电压执行阈值确定,输出表示所述乘积值的总和的乘法-累加信号;以及

网络电路,所述网络电路通过连接多个模拟电路进行配置,其中

在所述一个或多个模拟电路中,通过所述充电单元的充电以共同充电模式执行,并且共同阈值被设置为所述预定阈值。

(21)根据(1)至(19)中任一项所述的算术设备,其中

与所述输入值对应的所述电信号为其相对于所述输入周期的ON时间对应于所述输入值的脉冲信号。

(22)根据(1)至(19)以及(21)中任一项所述的算术设备,其中

所述共同充电周期的持续时间等于所述输入周期。

附图标记列表

T 输入周期

θ 阈值

1 信号线

3 模拟电路

6 输入信号线

7 一对输出线

7a 正电荷输出线

7b 负电荷输出线

8 突触电路(乘法单元)

8a 突触电路(正权重乘法单元)

8b 突触电路(负权重乘法单元)

9 神经元电路

10 输出信号线

11 累加单元

12 信号输出单元

13 电容器

15 充电单元

17 电阻器

17a 正电阻器

17b 负电阻器

19 充电线

20,20a,20b 充电单元中的电阻器

22,22a,22b 比较器

23 信号生成单元

25,25a,25b 电流源

26 差分放大电路

100 算术设备。

49页详细技术资料下载
上一篇:一种医用注射器针头装配设备
下一篇:指纹模板的注册

网友询问留言

已有0条留言

还没有人留言评论。精彩留言会获得点赞!

精彩留言,会给你点赞!

技术分类