具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。

因此，以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。

需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

实施例

如图1所示，第一方面，本发明实施例提供一种手语交互方法，包括以下步骤：

S1、获取并根据手势语义数据建立手势语义数据库；

在本发明的一些实施例中，为了保证后续可以快速有效的完成手语交互，首先，获取现有的大量的手势语义数据，以便建立完整的手势语义数据库，提供数据支撑。该手势语义数据库包含手势、文字语义以及两者的关联信息。

S2、获取用户手势信息，并对用户手势信息进行分段截取，以截取到多个手势；

在本发明的一些实施例中，手势语义数据库建立完成后，当需要进行手语交互时，通过摄像头获取用户比划的用户手势信息，由于一般获取的用户手势信息中的手势是连续的，为了保证对各个手势进行准确识别，对用户手势信息进行分段截取，获取各个单独的手势，以便后续进行单独匹配，提高匹配的准确性。

S3、将各个手势分别与手势语义数据库中的手势数据进行匹配，依次输出各个手势对应的语义信息；

在本发明的一些实施例中，将各个单独的手势与手势语义数据库中的手势数据进行匹配，匹配查找到对应的手势语义，并按照输入顺序依次输出对应的手势语义。

S4、将各个手势对应的语义信息进行语义整合，生成目标手势语义信息；

在本发明的一些实施例中，获取到各个手势对应的语义信息后，对所有的语义信息进行整合，形成完整连贯的语义信息，即得到目标手势语义信息；该目标手势语义信息包括语义内容、语种等信息。

S5、获取并识别用户语音信息，生成语音语义识别信息；

在本发明的一些实施例中，为了保证交互的及时性，当正常人用户发出语音信息后，及时的获取用户语音信息，并对用户语音信息进行识别，将语音信息转换成为文字语义信息。上述用户语音信息包括语音内容和语种信息。

S6、将语音语义识别信息与手势语义数据库中的语义数据进行匹配，以得到对应的目标手势信息；

在本发明的一些实施例中，将该语音语义识别信息与手势语义数据库中的语义进行匹配，以单个字或者词语为单位进行匹配，匹配得到对应语义对应的手势信息。

S7、根据目标手势语义信息和目标手势信息生成并发送对应的交互信息给对应的用户，完成交互。

在本发明的一些实施例中，将目标手势信息转换成对应的语音信息发送给正常人用户；将得到的对应手势信息进行整合，形成完整的手势信息，并通过视频的方式将手势信息发生给对应的聋哑人用户。本方法对聋哑人用户和正常人用户的手势和语音进行分别识别，对其手势信息中的各个单独的手势和语音信息中的字或词进行一一匹配，保证了识别的准确性，避免漏识别的情况，进而提高交互的精准性，提高交互效果。

基于第一方面，在本发明的一些实施例中，上述将各个手势对应的语义信息进行语义整合，生成目标手势语义信息的方法包括以下步骤：

根据输出顺序将各个手势对应的语义信息进行语义整合，以得到初始手势语义信息；

提取并根据初始手势语义信息中的关联词对初始手势语义信息进行冗余除去处理，生成目标手势语义信息。

对各个手势进行语义匹配后，得到的信息是不完整的，所以需要根据输出顺序将各个手势对应的语义信息进行语义整合，以形成连贯的语句，此时得到的信息中可能会包含一些不需要的冗余信息或者干扰信息，可以根据语句中的关联词筛选目标词语，除去冗余数据，以得到精准的目标手势语义信息。

基于第一方面，在本发明的一些实施例中，上述根据目标手势语义信息和目标手势信息生成并发送对应的交互信息给对应的用户的方法包括以下步骤：

根据目标手势语义信息生成语音播放信息，并将语音播放信息播放给对应的用户；

根据目标手势信息采用预设的三维模型生成手语信息，并将手语信息展现给对应的用户。

为了保证交互信息传递的准确性，适应不同的人群，生成对应的语音播放信息以语音的方式播放给正常用户，通过三维模型模拟手势，将手语信息展示给对应的聋哑人。

基于第一方面，在本发明的一些实施例中，上述获取并识别用户语音信息，生成语音语义识别信息的方法包括以下步骤：

获取用户语音信息；

提取并根据用户语音信息中的语种信息查找获取对应的语音数据库；

将用户语音信息中的语音内容与对应的语音数据库中的语义进行匹配，以生成语音语义识别信息。

为了满足不同语种的语义转换需求，提高数据匹配的效率，根据语种的不同在对应的语音数据库中查找对应的语音语义信息，然后生成对应的语音语义识别信息。

如图2所示，第二方面，本发明实施例提供一种手语交互系统，包括数据建立模块100、手势截取模块200、手势匹配模块300、语义整合模块400、语音识别模块500、语音匹配模块600以及交互模块700，其中：

数据建立模块100，用于获取并根据手势语义数据建立手势语义数据库；

手势截取模块200，用于获取用户手势信息，并对用户手势信息进行分段截取，以截取到多个手势；

手势匹配模块300，用于将各个手势分别与手势语义数据库中的手势数据进行匹配，依次输出各个手势对应的语义信息；

语义整合模块400，用于将各个手势对应的语义信息进行语义整合，生成目标手势语义信息；

语音识别模块500，用于获取并识别用户语音信息，生成语音语义识别信息；

语音匹配模块600，用于将语音语义识别信息与手势语义数据库中的语义数据进行匹配，以得到对应的目标手势信息；

交互模块700，用于根据目标手势语义信息和目标手势信息生成并发送对应的交互信息给对应的用户，完成交互。

为了保证后续可以快速有效的完成手语交互，首先，通过数据建立模块100获取现有的大量的手势语义数据，以便建立完整的手势语义数据库，提供数据支撑。手势语义数据库建立完成后，当需要进行手语交互时，通过摄像头获取用户比划的用户手势信息，由于一般获取的用户手势信息中的手势是连续的，为了保证对各个手势进行准确识别，通过手势截取模块200对用户手势信息进行分段截取，获取各个单独的手势，然后手势匹配模块300将各个单独的手势与手势语义数据库中的手势数据进行匹配，匹配查找到对应的手势语义；获取到各个手势对应的语义信息后，语义整合模块400对所有的语义信息进行整合，形成完整连贯的语义信息，即得到目标手势语义信息，通过交互模块700将目标手势信息转换成对应的语音信息发送给正常人用户。同时，还将通过语音识别模块500获取并识别用户语音信息，生成语音语义识别信息，t通过语音匹配模块600将该语音语义识别信息与手势语义数据库中的语义进行匹配，以单个字或者词语为单位进行匹配，匹配得到对应语义对应的手势信息，然后，将得到的对应手势信息进行整合，形成完整的手势信息，并通过交互模块700采用视频的方式将手势信息发生给对应的聋哑人用户。

本系统对聋哑人用户和正常人用户的手势和语音进行分别识别，对其手势信息中的各个单独的手势和语音信息中的字或词进行一一匹配，保证了识别的准确性，避免漏识别的情况，进而提高交互的精准性，提高交互效果。

如图2所示，基于第二方面，在本发明的一些实施例中，上述语义整合模块400包括初始整合子模块410和冗余除去子模块420，其中：

初始整合子模块410，用于根据输出顺序将各个手势对应的语义信息进行语义整合，以得到初始手势语义信息；

冗余除去子模块420，用于提取并根据初始手势语义信息中的关联词对初始手势语义信息进行冗余除去处理，生成目标手势语义信息。

对各个手势进行语义匹配后，得到的信息是不完整的，所以需要通过初始整合子模块410根据输出顺序将各个手势对应的语义信息进行语义整合，以形成连贯的语句，此时得到的信息中可能会包含一些不需要的冗余信息或者干扰信息，可以通过冗余除去子模块420根据语句中的关联词筛选目标词语，除去冗余数据，以得到精准的目标手势语义信息。

如图2所示，基于第二方面，在本发明的一些实施例中，上述交互模块700包括语音播放子模块710和手势展示子模块720，其中：

语音播放子模块710，用于根据目标手势语义信息生成语音播放信息，并将语音播放信息播放给对应的用户；

手势展示模块，用于根据目标手势信息采用预设的三维模型生成手语信息，并将手语信息展现给对应的用户。

为了保证交互信息传递的准确性，适应不同的人群，通过语音播放子模块710生成对应的语音播放信息以语音的方式播放给正常用户，手势展示模块通过三维模型模拟手势，将手语信息展示给对应的聋哑人。

如图2所示，基于第二方面，在本发明的一些实施例中，上述语音识别模块500包括语音获取子模块510、语种提取子模块520以及语义匹配子模块530，其中：

语音获取子模块510，用于获取用户语音信息；

语种提取子模块520，用于提取并根据用户语音信息中的语种信息查找获取对应的语音数据库；

语义匹配子模块530，用于将用户语音信息中的语音内容与对应的语音数据库中的语义进行匹配，以生成语音语义识别信息。

为了满足不同语种的语义转换需求，提高数据匹配的效率，根据语种的不同在对应的语音数据库中查找对应的语音语义信息，然后生成对应的语音语义识别信息。

如图3所示，第三方面，本申请实施例提供一种电子设备，其包括存储器101，用于存储一个或多个程序；处理器102。当一个或多个程序被处理器102执行时，实现如上述第一方面中任一项的方法。

还包括通信接口103，该存储器101、处理器102和通信接口103相互之间直接或间接地电性连接，以实现数据的传输或交互。例如，这些元件相互之间可通过一条或多条通讯总线或信号线实现电性连接。存储器101可用于存储软件程序及模块，处理器102通过执行存储在存储器101内的软件程序及模块，从而执行各种功能应用以及数据处理。该通信接口103可用于与其他节点设备进行信令或数据的通信。

其中，存储器101可以是但不限于，随机存取存储器101(Random Access Memory，RAM)，只读存储器101(Read Only Memory，ROM)，可编程只读存储器101(ProgrammableRead-Only Memory，PROM)，可擦除只读存储器101(Erasable Programmable Read-OnlyMemory，EPROM)，电可擦除只读存储器101(Electric Erasable Programmable Read-OnlyMemory，EEPROM)等。

处理器102可以是一种集成电路芯片，具有信号处理能力。该处理器102可以是通用处理器102，包括中央处理器102(Central Processing Unit，CPU)、网络处理器102(Network Processor，NP)等；还可以是数字信号处理器102(Digital Signal Processing，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field－Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。

在本申请所提供的实施例中，应该理解到，所揭露的方法及系统和方法，也可以通过其它的方式实现。以上所描述的方法及系统实施例仅仅是示意性的，例如，附图中的流程图和框图显示了根据本申请的多个实施例的方法及系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现方式中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

另外，在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分，也可以是各个模块单独存在，也可以两个或两个以上模块集成形成一个独立的部分。

第四方面，本申请实施例提供一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器102执行时实现如上述第一方面中任一项的方法。所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器101(ROM，Read-Only Memory)、随机存取存储器101(RAM，RandomAccess Memory)、磁碟或者光盘等各种可以存储程序代码的介质。

以上仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

对于本领域技术人员而言，显然本申请不限于上述示范性实施例的细节，而且在不背离本申请的精神或基本特征的情况下，能够以其它的具体形式实现本申请。因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本申请的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化囊括在本申请内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。