电子装置及其控制方法

文档序号:516392 发布日期:2021-05-28 浏览:28次 >En<

阅读说明:本技术 电子装置及其控制方法 (Electronic device and control method thereof ) 是由 赵钟明 郑泰雄 于 2020-10-20 设计创作,主要内容包括:一种包括通信接口、显示器和处理器的电子装置,处理器被配置为:基于通过通信接口从源装置接收到内容,获得接收到的内容的特征信息,并且将所获得的特征信息发送到外部服务器;从外部服务器接收内容的标识信息,该标识信息是基于所发送的特征信息而获得的;基于根据通过通信接口从源装置接收的信号开启显示器的预定模式,获得与开启预定模式时的第一时间点有关的信息;基于关闭显示器的预定模式,获得与在第一时间点之后关闭预定模式时的第二时间点有关的信息。(An electronic device comprising a communication interface, a display, and a processor, the processor configured to: obtaining feature information of the received content based on receiving the content from the source device through the communication interface, and transmitting the obtained feature information to the external server; receiving identification information of the content from the external server, the identification information being obtained based on the transmitted feature information; obtaining information on a first time point when a predetermined mode is turned on based on the predetermined mode in which the display is turned on according to a signal received from the source device through the communication interface; based on a predetermined mode of turning off the display, information on a second point in time when the predetermined mode is turned off after the first point in time is obtained.)

电子装置及其控制方法

相关申请的交叉引用

本申请基于并要求于2019年11月12日在韩国知识产权局递交的韩国专利申请No.10-2019-0144022的优先权,其全部公开内容通过引用合并于此。

技术领域

本公开涉及一种获得与正被显示的内容有关的信息的电子装置及其控制方法。

背景技术

在相关领域中,存在用于获得与正被显示的内容有关的信息的各种方法。然而,相关领域的技术主要应用于预定帧被连续显示的内容,比如电影或电视剧。

例如,通过将当前正被显示的内容的若干帧与存储在数据库中的帧进行比较,电视可以识别当前正被显示的电视剧或电影的标题。

然而,与预定帧被连续显示的内容不同,难以通过与存储在数据库中的帧进行比较来指定游戏内容,因为可能根据用户操作而显示各种各样的游戏图像。

发明内容

提供了一种电子装置及其控制方法,该电子装置识别当前正被显示的内容的标题和再现时间段。

附加方面部分地将在以下描述中阐述,且部分地将通过以下描述而变得清楚明白,或者可以通过实践所呈现的实施例来获知。

根据本公开的一方面,提供了一种包括通信接口、显示器和处理器的电子装置,该处理器被配置为:基于通过通信接口从源装置接收到内容,获得接收到的内容的特征信息,并且将所获得的特征信息发送到外部服务器;从外部服务器接收内容的标识信息,该标识信息是基于所发送的特征信息而获得的;基于根据通过通信接口从源装置接收的信号开启显示器的预定模式,获得与开启预定模式时的第一时间点有关的信息;基于关闭显示器的预定模式,获得与在第一时间点之后关闭预定模式时的第二时间点有关的信息;以及基于接收到的标识信息、所获得的与第一时间点有关的信息以及所获得的与第二时间点有关的信息,获得与通过显示器显示的内容有关的信息。

处理器还可以被配置为:基于从外部服务器接收到的标识信息,识别所显示的内容的标题;以及基于所获得的与第一时间点有关的信息以及所获得的与第二时间点有关的信息,识别标题被识别的内容的再现时间段。

处理器还可以被配置为:在从外部服务器接收到的多条标识信息之中,基于在第一时间点与第二时间点之间获得的特征信息,获得内容的标识信息。

从源装置接收到的信号可以包括控制信息,该控制信息用于允许电子装置基于从源装置接收到的内容的类型来开启或关闭预定模式。

预定模式可以是自动低延迟模式(ALLM)。

可以将控制信息从源装置提供给支持预定或更高版本的HDMI标准的电子装置。

基于内容的类型是游戏内容,可以将控制信息从源装置提供给电子装置。

特征信息可以包括视频特征信息和音频特征信息中的任意一个或任意组合,并且处理器还可以被配置为:以预定时间间隔捕获从源装置接收到的内容之中的当前正被观看的内容的图像;基于捕获到的图像的像素值,获得视频特征信息;以预定时间间隔获得当前正被观看的内容的声学信息的频率信息;以及基于所获得的频率信息,获得音频特征信息。

响应于基于视频特征信息获得的内容的标识信息的数量大于一条,可以额外使用音频特征信息来在所获得的多条标识信息之中获得与当前正被观看的内容相对应的标识信息。

处理器还可以被配置为从捕获到的图像之中的最近捕获的预定数量的图像中获得视频特征信息。

根据本公开的一方面,提供了一种控制电子装置的方法,该方法包括:基于从源装置接收到内容,获得接收到的内容的特征信息,并且将所获得的特征信息发送到外部服务器;从外部服务器接收内容的标识信息,该标识信息是基于所发送的特征信息而获得的;基于根据从源装置接收的信号开启显示器的预定模式,获得与开启预定模式时的第一时间点有关的信息;基于关闭显示器的预定模式,获得与在第一时间点之后关闭预定模式时的第二时间点有关的信息;以及基于接收到的标识信息、所获得的与第一时间点有关的信息以及所获得的与第二时间点有关的信息,获得与显示的内容有关的信息。

获得与内容有关的信息可以包括:基于从外部服务器接收到的标识信息,识别所显示的内容的标题;以及基于所获得的与第一时间点有关的信息以及所获得的与第二时间点有关的信息,识别标题被识别的内容的再现时间。

该方法还可以包括:在从外部服务器接收到的多条标识信息之中,基于在第一时间点与第二时间点之间获得的特征信息,获得内容的标识信息。

从源装置接收到的信号可以包括控制信息,该控制信息用于允许电子装置基于从源装置接收到的内容的类型来开启或关闭预定模式。

预定模式可以是自动低延迟模式(ALLM)。

可以将控制信息从源装置提供给支持预定或更高版本的HDMI标准的电子装置。

基于内容的类型是游戏内容,可以将控制信息从源装置提供给电子装置。

特征信息可以包括视频特征信息和音频特征信息中的任意一个或任意组合,并且获得特征信息可以包括:以预定时间间隔捕获从源装置接收到的内容之中的当前正被观看的内容的图像;基于捕获到的图像的像素值,获得视频特征信息;以预定时间间隔获得当前正被观看的内容的声学信息的频率信息;以及基于所获得的频率信息,获得音频特征信息。

响应于基于视频特征信息获得的内容的标识信息的数量大于一条,可以额外使用音频特征信息来在所获得的多条标识信息之中获得与当前正被观看的内容相对应的标识信息。

获得视频特征信息可以包括:从捕获到的图像之中的最近捕获的预定数量的图像中获得视频特征信息。

根据本公开的一方面,提供了一种存储指令的非暂时性计算机可读存储介质,当指令由电子装置的至少一个处理器执行时,使该至少一个处理器:基于从源装置接收到的信号,识别电子装置的显示器的预定模式是否被开启;基于显示器的预定模式被识别为开启,获得开启显示器的预定模式时的第一时间点;从接收到的信号中获得特征信息;将所获得的特征信息发送到外部服务器;从外部服务器接收与所发送的特征信息相对应的内容的标识信息;基于显示器的预定模式被识别为关闭,获得在第一时间点之后关闭显示器时的预定模式的第二时间点;以及从接收到的标识信息的一部分中,获得与通过显示器显示的内容的信息,该一部分对应于从所获得的第一时间点到所获得的第二时间点的时间段。

预定模式可以包括自动低延迟模式(ALLM),并且内容的信息可以包括标题和类型之一或两者。

附图说明

根据以下结合附图的描述,本公开的一些实施例的上述和其它方面、特征以及优点将更清楚,在附图中:

图1是用于示意地说明根据实施例的电子系统的配置的视图;

图2是用于说明根据实施例的电子装置的操作的框图;

图3是用于说明根据实施例的电子装置的配置的框图;

图4是用于说明根据实施例的电子装置与服务器之间的操作的框图;

图5是用于说明根据实施例的在多个频道上再现相同视频的情况下区分内容的操作的视图;

图6是根据实施例的用于说明如果不是仅利用视频特征信息来识别内容则使用音频特征信息的过程的流程图;

图7是根据实施例的电子装置、源装置和服务器的序列图;

图8是用于说明根据实施例的基于获得特征信息时的时间点的标识信息的视图;以及

图9是用于说明根据实施例的控制电子装置的方法的流程图。

具体实施方式

在下文中,将参考附图详细地描述本公开。

在简要对说明书中所使用的术语进行说明之后,将详细地描述本公开。

考虑到本公开中的功能,将本公开的实施例中所使用的术语被选择为尽可能广泛使用的通用术语,但是这些术语可以根据本领域技术人员的意图、先例、新技术的出现等而变化。另外,在情况下,还存在由申请人任意选择的术语,在这种情况下,将在本公开的描述中详细地描述其含义。因此,可以基于术语本身的含义以及整个本公开的内容来定义本公开中所使用的术语,而不是基于术语的简单名称。

本公开的实施例可以进行各种改变并包括各种实施例,并且这些实施例将在附图中进行示出并在说明书中进行详细描述。然而,可以理解的是,这并不限制实施例的范围,并且包括在所公开的精神和技术范围内包括的所有修改、等同形式和/或替代形式。在描述本公开时,当确定详细描述可能会不必要地模糊本公开的要点时,可以省略现有技术的详细描述。

除非另外特别定义,否则单数表达可以涵盖复数表达。要理解的是,诸如“包括”或“由......组成”之类的术语在本文中用于表明存在特性、数量、步骤、操作、元件、部件或其组合,而不排除存在或添加一个或多个其它特性、数量、步骤、操作、元件、部件或其组合的可能性。

诸如“A和/或B”的表达可以被理解为表示“A”、“B”或“A和B”中的任意一个。

本公开中所使用的表达“第一”、“第二”等可以表示各种元件,而与顺序和/或重要性无关,并且可以用于将一个元件与另一个元件区分开,而不限制这些元件。

如果描述元件(例如,第一元件)与另一元件(例如,第二元件)“操作地或通信地耦接”或“连接到”另一元件(例如,第二元件),则可以理解该元件可以直接或通过又一元件(例如,第三元件)连接到该另一元件。

本公开中的诸如“模块”或“单元”之类的术语可以执行至少一个功能或操作,并且可以被实现为硬件、软件、或者硬件与软件的组合。此外,除了可以在单独的硬件中实现多个“模块”、“单元”等中的每一个之外,这些组件可以集成在至少一个模块中并在至少一个处理器中实现。在本公开中,术语“用户”可以指使用电子装置的人或使用电子装置的装置(例如,人工智能电子装置)。

在下文中,将参考附图详细地描述本公开的实施例,使得本领域技术人员可以容易地在本公开的技术领域中实施和使用实施例。然而,本公开可以以各种不同的形式实现,并且不限于本文中所描述的实施例。另外,在附图中,为了清楚地描述本公开,可以省略与描述无关的部件,并且在整个说明书中,相同的附图标记用于相同的部件。

在下文中,将参考附图详细地描述本公开的实施例。

图1是用于示意地说明根据实施例的电子系统的配置的视图。

参考图1,根据本公开的实施例的电子系统1000可以包括电子装置100、源装置200和服务器300。

电子装置100可以是从源装置200接收图像信号并显示包括接收到的图像信号在内的内容的显示装置。例如,电子装置100可以以包括显示器的各种形式实现,诸如TV、智能TV、智能电话、平板PC、移动电话、视频电话、电子书阅读器、台式PC、膝上型计算机、上网本计算机、PDA、便携式多媒体播放器(PMP)、MP3播放器、医疗设备、相机或可穿戴设备。

源装置200可以是将源图像和包括关于源图像的信息在内的信号发送到电子装置100的装置。例如,源装置200可以以各种形式实现,诸如游戏机(例如,XBOXTM、PLAYSTATIONTM)、智能电话、平板PC、台式PC、膝上型PC、上网本计算机、可穿戴设备、机顶盒、以及USB等的存储设备。

服务器300可以是存储和管理关于各种内容的信息的装置。例如,服务器300可以生成并存储内容的特征信息。特征信息可以指用于将对应内容与其他内容区分开的独特信息,并且可以包括例如基于视频信号生成的视频特征信息和基于音频信号生成的音频特征信息。这将在下面详细地进行描述。

如果电子装置100不具有与当前正被显示的内容有关的信息,则电子装置100可以获得与当前正被显示的内容有关的特征信息,并将特征信息发送到服务器300,并且服务器300可以通过将接收到的特征信息与存储在服务器300中的信息进行比较来识别当前正被显示在电子装置100上的内容是哪个内容,并且将标识信息发送到电子装置100。另外,电子装置100可以基于包括在从源装置200接收的信号中的信息来获得当前正被显示的内容的再现时间信息。

下面将详细地描述获得如上所述的与正被电子装置100再现的内容有关的信息的实施例。

图2是用于说明根据实施例的电子装置的操作的框图。

参考图2,电子装置100可以包括通信接口110、显示器120和处理器130。

通信接口110可以包括电路,并且是能够与源装置200和服务器300通信的元件。

通信接口110可以基于有线或无线通信方法与源装置200和服务器300通信。

根据实施例,如果通信接口110通过有线通信方法与外部通信,则通信接口110可以被实现为设置在电子装置100中的端口。通信接口110可以被实现为与源装置200通信的HDMI端口。在这种情况下,源装置200还可包括HDMI端口。因此,电子装置100和源装置200可以通过每个HDMI端口和连接它们的高清多媒体接口(HDMI)电缆彼此通信。然而,不限于此,通信接口110还可以通过低电压差分信号(LVDS)电缆、数字视觉接口(DVI)电缆、D超小型(D-SUB)电缆、视频图形阵列(VGA)电缆、V-by-One电缆或光缆与源装置200通信。

根据另一实施例,通信接口110可以通过无线通信与源装置200和服务器300通信。在这种情况下,通信接口110可以包括Wi-Fi模块、蓝牙模块、红外(IR)模块、局域网(LAN)模块、以太网模块等。每个通信模块可以被实现为一个硬件芯片。除了上述通信方法之外,无线通信模块可以包括至少一个通信芯片,该通信芯片基于诸如Zigbee、通用串行总线(USB)、移动行业处理器接口相机串行接口(MIPI CSI)、第三代(3G)、第三代合作伙伴计划(3GPP)、长期演进(LTE)、LTE-高级(LTE-A)、第四代(4G)、第五代(5G)等的各种无线通信标准来执行通信。然而,这是一个实施例,通信接口110可以使用各种通信模块之中的至少一个通信模块。

与源装置200通信的通信接口以及与服务器300通信的通信接口可以被实现为彼此不同的接口。例如,通信接口110可以包括与源装置200通信的第一通信接口110-1以及与服务器300通信的第二通信接口110-2。在这种情况下,第一通信接口110-1可以通过有线通信与源装置200通信,并且第二通信接口110-2可以通过无线通信与服务器300通信。第一通信接口110-1可以被实现为HDMI端口,但是不限于此。

第一通信接口110-1可以从源装置200接收图像信号。这里的图像信号可以包括内容以及包括与内容有关的信息在内的信号。第二通信接口110-2可以将内容的特征信息发送到服务器300,并且从服务器300接收基于特征信息而获得的内容的标识信息。这将在下面详细地进行描述。

显示器120是显示从源装置200接收的内容的元件。

显示器120可以被实现为各种显示器,诸如液晶显示器(LCD)、有机发光二极管(OLED)、硅上液晶(LCoS)、数字光处理(DLP)、量子点(QD)显示面板、量子点发光二极管(QLED)和微型发光二极管(LED)。

显示器120可以被实现为具有分层结构的触摸屏类型,该分层结构带有触摸板。触摸屏可以被配置为除触摸输入位置和区域之外还检测触摸输入压力。

处理器130可以电连接到存储器并控制电子装置100的操作。

根据本公开的实施例,处理器130可以通过通信接口110从源装置200接收内容。在一些情况下,电子装置100可以从源装置200接收与内容有关的信息(例如,内容的标题、类型、再现时间段),但是将通过假设获得了与当前正被再现或要再现的内容相关的信息来描述本公开,因为无法从源装置200接收与内容有关的清晰信息。

处理器130可以获得从源装置200接收的内容的特征信息,并且将特征信息发送到外部服务器300。特征信息可以指允许将对应内容与另一内容区分开的内容的独特信息,并且特征信息可以包括视频特征信息和音频特征信息中的任意一个或任意组合。视频特征信息可以是从视频信号中提取的不包括音频信息的信息,并且可以是视频指纹信息。另外,音频特征信息可以是从音频信号中提取的信息,并且可以是音频指纹信息。

视频指纹信息可以是基于包括在视频信号中的一帧的像素值而生成的字符串信息。这样的字符串根据像素位置的像素值而变化,因此,仅在相同的帧的情况下,可以生成相同的字符串。因此,视频指纹可以是能够将对应帧与另一帧区分开的特征信息。

音频指纹信息可以是基于包括在音频信号的一部分中的声频信息而生成的字符串信息。这样的字符串取决于频率信息而变化,因此,仅在相同的声学信号的情况下,可以生成相同的字符串。因此,音频指纹可以是允许将对应部分的声频与另一声频区分开的特征信息。

处理器130可以以预定时间段的间隔捕获从源装置200接收的内容之中的当前正被观看的内容的图像。例如,处理器130可以以500ms的间隔捕获通过显示器120显示的内容的帧。然后,处理器130可以基于捕获到的图像的像素值来获得视频特征信息。

例如,处理器130可以将捕获到的图像中的所有像素(即,一个捕获到的帧)划分为包括n×m个像素的块。然后,处理器130可以计算划分后的块之中的一些或全部块的像素值。处理器130可以生成与计算出的像素值相对应字符串,并且所生成的字符串可以是视频指纹。处理器130可以通过上述方法来获得视频指纹,即视频特征信息。

处理器130可以从以预定时间间隔捕获到的多个图像之中的最近捕获的预定数量的图像中获得视频特征信息。例如,当从以预定时间间隔捕获到的全部多个图像中获取视频特征信息并将其发送到服务器300时,可以提高与当前被再现在显示器120上的内容有关的识别精度,但是处理器130的处理量可能会不必要地增加。因此,通过考虑当前正被再现的内容的实时性,可以从用于识别内容的最少数量的图像中获得视频特征信息,并且从最近捕获到的图像中获得视频特征信息。例如,如果预定数量为3,则处理器130可以仅从最近捕获到的三个图像中获得视频特征信息。

另外,处理器130可以以预定时间间隔获得当前正被观看的内容的声学信号。例如,处理器130可以以500ms的间隔获得通过扬声器输出的内容的声学信号的频率信息。然后,处理器130可以基于所获得的频率信息来获得音频特征信息。处理器130可以分析所获得的频率信息的波形并且生成与所分析的波形相对应的字符串。如上所述生成的字符串可以是音频指纹。处理器130可以从以预定时间间隔获得的频率信息之中的最近获得的预定数量的频率信息中获得音频特征信息,作为视频特征信息。

如果基于视频特征信息而获得的内容的标识信息的数量大于一条,则音频特征信息是如下信息,该信息可以被额外用于在多条标识信息之中获得与当前正被观看的内容相对应的标识信息。将参考图5和图6对此进行详细描述。

处理器130可以将在上面的实施例中获得的特征信息发送到服务器300。

在示例中,处理器130可以以预定时间间隔将特征信息发送到服务器300,并且这里的预定时间段的间隔可以与获得特征信息时的时间间隔相同,但是不限于此,并且可以以与获得特征信息的时间间隔不同的时间间隔将特征信息发送到服务器300。

然而,不限于此,如果从用户输入了内容识别请求或从服务器300接收到特征信息发送请求信号,则处理器130可以将所获得的特征信息发送到服务器300。

然后,服务器300可以将从电子装置100发送的特征信息与存储在服务器300的数据库中的特征信息进行比较。例如,如果从电子装置100发送与包括在一个内容中的三个帧相对应的视频指纹信息,则服务器300可以在数据库中搜索包括三条视频指纹信息的内容。在示例中,服务器300可以将包括三条视频指纹信息中的任意一个或任意组合的内容识别为候选内容。在这种情况下,如果识别出的候选内容彼此不同,则服务器300可以将具有与这三条视频指纹信息匹配的较多数量的视频指纹信息的内容识别为与从电子装置100发送的视频指纹信息相对应的内容。例如,如果彼此不同的电影内容被划分为第一集和第二集,则介绍图像可以彼此相同。因此,服务器300可以在多个识别出的候选内容之中将具有较多数量的匹配视频指纹信息的内容识别为与从电子装置100发送的特征信息相对应内容。因此,可以提高识别与电子装置100所发送的视频指纹相对应的内容的精度。

另外,因为服务器300可能没有存储与一个内容有关的所有帧的视频指纹,所以服务器300可能会找不到与从电子装置100发送的所有视频指纹匹配的内容。因此,服务器300可以搜索仅具有与从电子装置100发送的多条视频指纹匹配的一条指纹的内容,并且将该内容识别为候选内容。在随后的处理中,如上所述,具有较大数量的匹配视频指纹信息的内容可以被识别为与从电子装置100发送的视频指纹信息相对应的内容。

换言之,服务器300可以通过将从电子装置100发送的特征信息与存储在数据库中的信息进行比较来识别具有高相似度的内容。服务器300可以从数据库中获得与识别出的内容有关的信息,并且将所获得的内容的标识信息发送到电子装置100。内容的标识信息可以包括内容的标题信息、类型信息、制作年份信息、制作国家信息、个人信息等。

处理器130可以从服务器300接收基于特征信息而获得的内容的标识信息。

处理器130可以通过通信接口110从源装置200接收信号。这里的信号可以是包括内容和控制信息的信号。内容可以是由源装置200提供的源图像,并且控制信息可以包括用于改变显示器120的设置信息的指令信息。

例如,从源装置200接收的信号可以包括控制信息,该控制信息用于允许电子装置100基于源装置200所提供的内容的类型来开启或关闭预定模式。如果内容的类型是游戏内容,则预定模式可以是自动低延迟模式(ALLM)。ALLM可以是在显示器上相对快速地显示对输入的响应的模式。与诸如电影或电视剧的内容不同,游戏内容可能是需要实时用户操纵的内容。从而,有必要在显示器120上快速反映对用户操纵的响应,因此,有必要相对减少对用户输入的响应时间。因此,如果发送到电子装置100的内容被识别为游戏内容,则源装置200可以在发送到电子装置100的信号中包括用于开启ALLM的控制信息。

这样的控制信息可以是提供给支持预定或更高版本的HDMI标准的电子装置100的信息。例如,可以将控制信息提供给支持HDMI 2.0或更高版本的标准的电子装置100。在这种情况下,电子装置100和源装置200可以包括HDMI 2.0端口。然而,不限于此,并且如果电子装置100所支持的版本低于HDMI 2.0,则即使从源装置200提供了控制信息,也可能无法在电子装置100中开启ALLM。

在此,HDMI 2.0是被称为4K或UHD(超高清)的超高分辨率环境的标准最优选择。HDMI 2.0所支持的最大带宽为18Gbps,并且可以传输以60Hz平滑运动的图像,最大分辨率为4,096×2,160(2160p)。

HDMI标准可以包括供应商专用数据块(VSDB)的信息块,并且VSDB可以包括音频/视频延迟信息、CEC物理地址信息、颜色位信息、最高TMDS频率信息等。这里的颜色位信息可以指颜色信息,并且最高转变最小化差分信令(TMDS)频率信息可以指分辨率信息。

如果发送到电子装置100的内容的类型被识别为游戏内容,则源装置200可以包括用于调整包括在VSDB中的延迟的自动低延迟模式(ALLM)控制信息。

每个版本的HDMI端口可以具有后向兼容性。因此,较高标准的源装置200可以连接到较低标准的电子装置100,反之亦然。然而,在这种情况下,两个装置都可以仅使用与较低标准相对应的功能。在示例中,即使源装置200支持HDMI2.0,当电子装置100支持HDMI1.4标准时,也可以仅使用HDMI1.4的功能。因此,为了开启电子装置100上的ALLM,电子装置100和源装置200的标准可以至少是HDMI2.0。

如果根据从源装置200接收到的信号开启了显示器120的预定模式,则处理器130可以获得与开启预定模式时的第一时间点有关的信息。处理器130可以将与开启预定模式时的第一时间点有关的信息存储在存储器中。

另外,处理器130可以获得与在第一时间点之后关闭预定模式时的第二时间点有关的信息。处理器130可以将与关闭预定模式时的第二时间点的信息存储在存储器中。

在示例中,与开启预定模式时的第一时间点有关的信息以及与关闭预定模式时的第二时间点有关的信息可以是对应时间点的时间信息。例如,与第一时间点有关的信息可以是第一时间点的时间信息,诸如2019年9月1日的16:30。在另一示例中,与第一时间点有关的信息可以是用于测量时间段的秒表的开始时间点。在这种情况下,与关闭预定模式时的第二时间点有关的信息可以指的是时间段本身。例如,第一时间点可以是秒表开始的时间点,该时间点为0,第二时间点可以是秒表结束的时间点,该时间点例如为2小时30分钟。

在示例中,可以基于包括用于关闭预定模式的控制信息在内的信号来关闭预定模式。

在另一示例中,包括用于开启预定模式的控制信息在内的信号可以从第一时间点开始被源装置200周期性地发送到电子装置100,并且如果不再发送用于开启预定模式的控制信息,则可以关闭预定模式。

因此,处理器130可以识别与开启预定模式时的第一时间点有关的信息以及与关闭预定模式时的第二时间点有关的信息。换言之,处理器130可以识别开启预定模式的时间段。

处理器130可以基于标识信息、与第一时间点有关的信息以及与第二时间点有关的信息,获得与通过显示器120显示的内容有关的信息。

这里的与内容有关的信息可以包括内容的标题、类型或再现时间段中的任意一个或任意组合。

处理器130可以基于标识信息来识别通过显示器120显示的内容的标题。这里的标识信息可以是由服务器300通过将从电子装置100接收到的特征信息与存储在服务器300中的特征信息进行比较而获得的信息,并且可以是由服务器300发送到电子装置100的信息。除了内容的标题之外,处理器130还可以基于标识信息来识别类型信息、生产年份信息、生产国家信息、个人信息等。

另外,处理器130可以识别基于与第一时间点有关的信息以及与第二时间点有关的信息所识别的内容的再现时间段。处理器130可以基于标识信息来识别所识别的内容在第一时间点开始再现并在第二时间点结束。因此,处理器130可以获得在其期间再现内容的总时间信息。

处理器130可以基于在第一时间点与第二时间点之间获得的特征信息,来在从服务器300接收的多条标识信息中获得内容的标识信息。例如,特征信息在第一时间点之前被获得并被发送到服务器300,从服务器300接收的标识信息不用于在第一时间点与第二时间点之间通过显示器120再现的内容,因此,处理器130可以基于在第一时间点与第二时间点之间获得的特征信息仅将内容识别为在第一时间点与第二时间点之间再现的内容。将参考图8对此进行详细描述。

描述了处理器130获得当前正被再现的内容的特征信息,但是不限于此,处理器130可以获得要再现的内容的特征信息并从服务器300接收与其有关的标识信息。

图3是用于说明根据实施例的电子装置的配置的框图。

参考图3,电子装置100可以包括通信接口110、显示器120、处理器130、存储器140、音频输出接口150和用户输入接口160。将不再重复关于与图2中所示的配置重叠的图3中所示的配置的部件的详细描述。

处理器130可以使用存储在存储器140中的各种程序来控制电子装置100的操作。处理器130可以包括用于与图像相对应的图形处理的图形处理器132。处理器130可以被实现为包括核和图形处理单元(GPU)132的片上系统(SoC)。处理器130可以是单核处理器、双核处理器、三核处理器、四核处理器或其他的多核处理器。

处理器130可以包括主中央处理单元(CPU)131、GPU 132和数字处理单元(NPU)133。

主CPU 131可以通过访问存储器140使用存储在存储器140中的O/S来执行引导。主CPU 131可以使用存储在存储器140中的各种程序、内容、数据等来执行各种操作。根据实施例,主CPU 131可以根据存储在ROM中的指令将存储器140中的程序复制到RAM并访问RAM以执行对应程序。

GPU 132可以对应于用于图形处理的高性能处理器,并且可以专用电子电路,该专用电子电路被设计为快速处理并改变存储器以加速要在屏幕上输出的帧缓冲器中的图像生成。另外,GPU 132可以指视觉处理单元(VPU)。

NPU 133可以对应于AI芯片组(或者,AI处理器),并且可以是AI加速器。NPU 133可以对应于针对深度神经网络最优的处理器芯片。NPU 133可以对应于执行深度学习模型的处理器而不是GPU 132,并且NPU 133可以对应于与GPU 132一起执行深度学习模型的处理器。

存储器140可以电连接到处理器130并存储实施例的数据。

存储器140可以以嵌入在电子装置100中的存储器的形式实现,或者可以以可根据数据存储目的从电子装置100拆卸的存储器的形式实现。例如,用于操作电子装置100的数据可以存储在嵌入在电子装置100中的存储器中,并且用于电子装置100的扩展功能的数据可以存储在可从电子装置100拆卸的存储器中。嵌入在电子装置100中的存储器可以被实现为下项中的任意一个或任意组合:易失性存储器(例如,动态RAM(DRAM)、静态RAM(SRAM)、同步动态RAM(SDRAM)等)、以及非易失性存储器(例如,一次性可编程ROM(OTPROM)、可编程ROM(PROM)、可擦除可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)、掩模ROM、闪速ROM、闪存(例如,NAND闪速或NOR闪速)、硬盘驱动器或固态驱动器(SSD)),并且可从电子装置100拆卸的存储器可以被实现为以下形式:存储卡(例如,紧凑型闪速(CF)、安全数字(SD)、微型安全数字(Micro-SD)、迷你安全数字(Mini-SD)、极限数字(xD)、多媒体卡(MMC)等)、可连接到USB端口的外部存储器(例如,USB存储器)等。

根据实施例,存储器140可以存储由处理器130获得的特征信息。存储器140可以存储视频指纹或音频指纹中的任意一个或任意组合。

存储器140可以存储与第一时间点有关的信息以及与第二时间点有关的信息。另外,存储器140还可以存储与获得特征信息的时间点有关的信息。

音频输出接口150可以是用于输出与视频信号相对应的音频信号的元件。音频输出接口150可以被实现为扬声器,并且还可以被实现为电子装置100的外部元件,诸如条形音箱。

用户输入接口160可以是用于接收各种用户指令和信息的元件。处理器130可以执行与通过用户输入接口160输入的用户指令相对应的功能,并且将通过用户输入接口160输入的信息存储在存储器140中。

用户输入接口160可以包括用于接收作为语音的用户指令的麦克风,或者可以被实现为用于接收通过触摸的用户指令的显示器120。

另外,用户输入接口160可以从用于控制电子装置100的单独的控制装置接收用户指令或包括与操作有关的信息的信号。

图4是用于说明根据实施例的电子装置与服务器之间的操作的框图。

电子装置100可以包括信号接收模块、视频指纹(VFP)获得模块、音频指纹(AFP)获得模块、HDMI信息处理模块和内容信息获得模块。上述模块可以存储在存储器140中,并且可以加载到处理器130并根据处理器130的控制来执行。

信号接收模块可以从源装置200接收图像信号。图像信号可以包括内容以及与该内容有关的控制信息。信号接收模块可以将从源装置200接收的图像信号划分为视频信号和音频信号。然后,信号接收模块可以将视频信号发送到视频指纹获得模块,将音频信号发送到音频指纹获得模块,并且将控制信息发送到HDMI信息处理模块。

视频指纹获得模块可以以预定时间间隔从视频信号中获得视频指纹。视频指纹获得模块可以基于包括在视频信号中的像素值来获得包括字符串的视频指纹。所获得的视频指纹信息可以被发送到内容信息获得模块。

音频指纹获得模块可以以预定时间间隔从音频信号中获得音频指纹。音频指纹获得模块可以基于包括在音频信号中的声学信号的频率信息来获得包括字符串的音频指纹。所获得的音频指纹信息可以被发送到内容信息获得模块。

HDMI信息处理模块可以基于预定或更高版本的HDMI标准,根据从源装置200发送的控制信息在电子装置100中监视ALLM是否被开启。HDMI信息处理模块可以将与开启ALLM时的第一时间点有关的信息发送到内容信息获得模块。

另外,HDMI信息处理模块可以监视开启的ALLM是否被关闭。HDMI信息处理模块可以将与在第一时间点之后关闭ALLM时的第二时间点有关的信息发送到内容信息获得模块。

内容信息获得模块可以将从HDMI信息处理模块发送的与第一时间点有关的信息以及与第二时间点有关的信息存储在存储器140中,并且识别在第一时间点与第二时间点之间再现了预定类型的内容。在示例中,内容信息获得模块可以识别在第一时间点与第二时间点之间再现了游戏内容。

内容信息获得模块可以将从视频指纹获得模块和音频指纹获得模块发送的视频指纹信息和音频指纹信息发送到服务器300。在示例中,内容信息获得模块可以将最近接收的视频指纹信息或音频指纹信息中的任意一个或任意组合发送到服务器300。然而,不限于此,并且内容信息获得模块可以将从视频指纹获得模块和音频指纹获得模块发送的所有视频指纹信息和音频指纹信息发送到服务器300。

信号接收模块、视频指纹(VFP)获得模块、音频指纹(AFP)获得模块、HDMI信息处理模块和内容信息获得模块的操作可以由处理器130执行,并且上述模块可以被统称为处理器130。另外,模块的名称和模块的类型是示例,并且这些模块可以被实现为具有各种名称和各种类型的模块。

服务器300可以包括匹配模块、索引模块、数据库和图像输入模块。

服务器300可以基于从电子装置100发送的视频指纹或音频指纹中的任意一个或任意组合来识别由电子装置100再现的内容。

匹配模块可以确定与从电子装置100发送的视频指纹或音频指纹中的任意一个或任意组合匹配的内容。例如,匹配模块可以基于存储在数据库中的视频指纹信息和音频指纹信息来识别与从电子装置100发送的视频指纹或音频指纹中的任意一个或任意组合匹配的内容。匹配可以指视频指纹与另一视频指纹相同或相似的情况、以及音频指纹与另一音频指纹相同或相似的情况。

数据库可以存储关于至少一个内容生成的视频指纹或音频指纹中的任意一个或任意组合。例如,数据库可以存储游戏内容的视频指纹或音频指纹,或者存储关于实时广播服务生成的视频指纹或音频指纹。

索引模块可以为视频和声音中的每一个加索引。索引模块可以基于根据通过图像输入模块发送的图像信号的视频信号来生成视频指纹,并且基于根据发送的图像信号的音频信号来生成音频指纹。视频指纹的生成和音频指纹的生成可以指视频指纹的提取和音频指纹的提取。

索引模块可以为所生成的视频指纹和音频指纹中的每一个加索引并将它们存储在数据库中。

图像输入模块可以接收包括游戏内容相关信号和广播服务信号的内容信号。图像输入模块可以将接收到的信号划分为视频信号和音频信号。图像输入模块可以将划分的视频信号和音频信号发送到索引模块。游戏内容相关信号或广播服务信号可以是从源装置200或外部装置发送的信号。

在实时广播的情况下,在电子装置100之前,可以将实时广播服务信号发送到服务器300的图像输入模块。因此,在电子装置100之前,可以从包括广播服务信号的图像信号中获得视频指纹和音频指纹,并且将其存储在数据库中。因此,即使从电子装置100接收到与实时广播有关的内容识别请求,服务器300也可以基于存储在数据库中的视频指纹或音频指纹中的任意一个或任意组合来识别与实时广播相对应的内容。

图5是用于说明根据实施例的在多个频道上再现相同视频的情况下区分内容的操作的视图。

如图5中所示,假定在多个频道上再现的内容的视频是相同的。在这种情况下,电子装置100可以获得从频道5、频道7和频道11获得的视频指纹信息,并且将它们发送到服务器300。因为从电子装置100发送的多个视频指纹相同,所以服务器300可以将频道的内容识别为一个内容。

然而,例如,假设在频道5、频道7和频道11上再现的内容是足球比赛,则可以将这些内容识别为不同的内容,这是因为再现内容的频道的编号、评论员等彼此不同。因此,下面将参考图6详细地描述在这种情况下使用音频指纹信息更准确地识别内容的实施例。

图6是根据实施例的用于说明如果不是仅利用视频特征信息来识别内容则使用音频特征信息的过程的流程图。

电子装置100可以从服务器300接收与内容有关的标识信息(S610)。可以确定从服务器300接收的标识信息的数量是否大于一条。也就是说,可以识别是否从服务器300接收到多条相同的标识信息(S620)。如果仅从服务器300接收到一个标识信息(S620-否),则电子装置100可以识别出请求了与一个内容有关的标识信息,并且将正被再现的内容识别为对应标识信息(S630)。

如果从服务器300接收到多条标识信息且该多条标识信息相同(S620-是),则电子装置100可以获得音频指纹(AFP)信息(S640)。这是因为可以使用音频指纹信息来区分多条标识信息。

电子装置100可以将所获得的音频指纹信息发送到服务器300(S650)。例如,假设在频道5、频道6和频道11上再现的内容是足球比赛,则频道5、频道6和频道11的音频信号可能彼此不同,这是因为即使通道5、通道6和通道11的视频信号相同,评论员也可能彼此不同。因此,电子装置100可以将每个频道的音频指纹信息发送到服务器300。

通过将从电子装置100发送的多条音频指纹信息与存储在每个数据库中的信息进行比较,服务器300可以获得彼此不同的内容标识信息。例如,服务器300可以不同地获得与每个音频指纹信息相对应的广播站、频道编号和个人信息,并且将它们发送到电子装置100。

电子装置100可以从服务器300接收彼此不同的多条标识信息(S660)并识别内容(S670)。

描述了电子装置100在从服务器300接收到与视频指纹相对应的标识信息之后将音频指纹信息发送到服务器300的情况,但是不限于此,电子装置100可以发送与频道5、频道7和频道11有关的视频指纹和音频指纹,如果从电子装置100发送的多个视频指纹被识别为相同,则服务器300可以使用音频指纹来获得与每条音频指纹信息相对应的彼此不同的内容的标识信息并将该标识信息发送到电子装置100。

图7是根据实施例的电子装置、源装置和服务器的序列图。

源装置200可以识别要发送到电子装置100的内容的类型(S705),并且将图像信号发送到电子装置100(S710)。如果发送到电子装置100的内容被识别为游戏内容,则源装置200可以在发送到电子装置100的图像信号中包括用于开启ALLM的控制信息。

电子装置100可以从源装置200接收图像信号(S715)。电子装置100可以通过包括在图像信号中的控制信息来识别预定模式是否被开启(S720)。当确定预定模式被开启时(S720-是),电子装置100可以存储与预定模式被开启时的第一时间点有关的信息(S725)。

另外,当从源装置200接收到图像信号时,电子装置100可以将包括在图像信号中的内容划分为视频信号和音频信号,并且从视频信号和音频信号中周期性地获得特征信息(S730)。电子装置100可以从视频信号中获得视频指纹信息,并且从音频信号中获得音频指纹信息。

然后,电子装置100可以将所获得的用于识别与内容有关的信息的特征信息发送到服务器300(S735)。

在电子装置100之前,服务器300可以从源装置200或外部装置接收图像信号(S740)。服务器300可以将包括在图像信号中的内容划分为视频信号和音频信号,并且生成视频特征信息和音频特征信息(S745)。所生成的特征信息可以被存储为视频特征信息和音频特征信息(S750)。

然后,当从电子装置100发送特征信息时(S735),服务器300可以将从电子装置100发送的视频特征信息与数据库的信息进行匹配(比较)(S755)。服务器300可以识别基于视频特征信息而获得的标识信息的数量是否大于一条(S760)。如果标识信息的数量被识别为多于一条(S760-是),换言之,如果标识信息未被识别为针对一个内容的信息,则服务器300可以将从电子装置100发送的音频特征信息与数据库的信息进行匹配(比较)(S765)。即使使用了音频特征信息的多条标识信息也可以被识别为一条标识信息,因此,服务器300可以识别一个匹配的内容并获得与其有关的标识信息(S770)。然后,服务器300可以将匹配的内容标识信息发送到电子装置100(S775)。

电子装置100可以获得与关闭预订模式时的第二时间点有关的信息,并且存储与第二时间点有关的信息(S780)。在图7中从服务器300接收到标识信息之后示出了步骤S780,但这是实施例,并且步骤S780是在获得关于电子装置100的特征信息的步骤S730之后的各个时间点执行的步骤。

电子装置100可以基于从服务器300接收到的标识信息以及所存储的与第一时间点和第二时间点有关的信息来获得与内容有关的信息(S785)。

电子装置100可以基于标识信息来识别内容的类型和标题,并且可以基于与第一时间点和第二时间点有关的信息来识别内容的再现时间段和类型。

图8是用于说明根据实施例的基于获得特征信息时的时间点的标识信息的视图。

电子装置100可以确定开启预定模式时的第一时间点与关闭预定模式时的第二时间点之间再现的内容的类型。在这种情况下,如果在第一时间点与第二时间点之间接收到彼此不同的多条标识信息,则电子装置100可以识别在第一时间点与第二时间点之间再现了与哪个标识信息相对应的哪个内容。

例如,电子装置100可以在第一时间点之前的时间点t1从内容A中获得特征信息,并且将所获得的特征信息发送到服务器300。服务器300可以基于特征信息来识别匹配的内容A,并且将内容A的标识信息发送到电子装置100。假设电子装置100可以在第一时间点之后的时间点t2从服务器300接收内容A的标识信息。

另外,电子装置100可以在第一时间点之后的时间点t3从内容B中获得特征信息,并且将所获得的特征信息发送到服务器300。服务器300可以基于特征信息来识别匹配的内容B,并且将内容B的标识信息发送到电子装置100。假设电子装置100可以在第二时间点之前的时间点t4从服务器300接收内容B的标识信息。

换言之,电子装置100可以在第一时间点与第二时间点之间从服务器300接收多条标识信息。在这种情况下,电子装置100可以在服务器300接收的多条标识信息之中识别与在第一时间点与第二时间点之间获得的特征信息相对应的标识信息(在时间点t4接收的标识信息)。电子装置100可以识别出在第一时间点与第二时间点之间再现了与在时间点t4接收的标识信息相对应的内容,并且可以识别内容B的再现时间段。

另外,即使t4(即接收到内容B的标识信息的时间点)在第二时间点之后,因为在第一时间点与第二时间点之间获得了内容B的特征信息,电子装置100也可以识别出在第一时间点与第二时间点之间再现了内容B。

图9是用于说明根据实施例的控制电子装置的方法的流程图。

当从源装置200接收到内容时,电子装置100可以获得接收到的内容的特征信息,并且将该特征信息发送到服务器300(S910)。

这里,特征信息可以包括视频特征信息和音频特征信息中的任意一个或任意组合。视频特征信息可以被实现为视频指纹,并且音频特征信息可以被实现为音频指纹。

电子装置100可以以预定时间间隔捕获接收到的内容之中的当前正被观看的内容的图像,并且基于捕获到的图像的像素值来获得视频特征信息。

另外,电子装置100可以以预定时间间隔获得当前正被观看的内容的声学信息的频率信息,并且基于所获得的频率信息来获得音频特征信息。

这里,如果基于视频特征信息而获得的内容的标识信息的数量大于一条,则音频特征信息是如下信息,该信息可以被额外用于在多条标识信息之中获得与当前正被观看的内容相对应的标识信息。

电子装置100可以从以预定时间间隔捕获到的多个图像之中的最近捕获的预定数量的图像中获取视频特征信息,并且将该视频特征信息发送到服务器300。

电子装置100可以从服务器300接收基于特征信息而获得的内容的标识信息(S920)。

电子装置100可以基于从服务器300接收的多条标识信息之中的在第一时间点与第二时间点之间获得的特征信息来获得内容的标识信息。

如果根据从源装置200接收的信号来开启电子装置100的预定模式,则电子装置100可以获得与开启预定模式时的第一时间点有关的信息(S930)。

从源装置200接收的信号可以包括控制信息,该控制信息用于允许电子装置100基于从源装置200提供的内容的类型来开启或关闭预定模式。

如果内容的类型是游戏内容,则控制信息可以是从源装置200提供的信息,并且预定模式可以是自动低延迟模式(ALLM)。

电子装置100可以获得与在第一时间点之后关闭预定模式时的第二时间点有关的信息(S940)。

电子装置100可以基于所获得的标识信息、与第一时间点有关的信息以及与第二时间点有关的信息来获得与所显示的内容有关的信息(S950)。

电子装置100可以基于标识信息来识别所显示的内容的标题,并且可以基于与第一时间点和第二时间点有关的信息来识别所识别的内容的再现时间段。

上面描述了每个步骤的操作,因此,将不再重复其详细描述。

可以以可安装在相关技术的电子装置中的应用的形式来实现根据上述本公开的实施例的方法。

另外,可以通过现有技术的电子装置中的软件更新或硬件更新来简单实现根据上述本公开的实施例的方法。

此外,可以通过在电子装置中配备的嵌入式服务器或电子装置的外部服务器执行上述公开的实施例。

根据本公开的实施例,上述实施例可以被实现为包括存储在机器(例如,计算机)可读存储介质中的指令的软件。该机器是调用存储在存储介质中的指令并根据所调用的指令进行操作的装置,并且可以包括根据所公开的实施例的电子装置。在指令由处理器执行的情况下,处理器可以直接或使用其他元件在处理器的控制下执行与指令相对应的功能。该指令可以包括由编译器生成的代码或可由解释器执行的代码。可以以非暂时性存储介质的形式提供机器可读存储介质。这里,“非暂时性”存储介质是有形的且可以不包括信号,并且无法区分数据是半永久性还是临时存储在存储介质中。

另外,根据本公开的实施例,可以提供根据以上公开的实施例的方法以包括在计算机程序产品中。计算机程序产品可以作为商品在卖方与买房之间进行交换。计算机程序产品可以以机器可读存储介质(例如,紧凑盘只读存储器(CD-ROM))的形式分发,或者通过应用商店(例如,PlayStoreTM)在线分发。在在线分发的情况下,计算机程序产品的至少一部分至少可以被临时地存储在或者可以被临时生成在诸如制造商的服务器、应用商店的服务器或中继服务器的存储器之类的存储介质中。

根据本公开的实施例,上述实施例可以在使用软件、硬件或其组合的计算机或类似装置可读的记录介质中实现。在某些情况下,本说明书中描述的实施例可以被实现为处理器本身。根据通过软件的实施方式,诸如本说明书中描述的处理和功能的实施例可以被实现为独立软件模块。每个软件模块可以执行本说明书中描述的一个或多个功能和操作。

可以将根据上文所描述的本公开的实施例的用于执行处理操作的计算机指令存储在非暂时性计算机可读介质中。当存储在这样的非暂时性计算机可读介质中的计算机指令被处理器执行时,计算机指令可以使得机器能够执行根据上述实施例的处理操作。

非暂时性计算机可读介质不是短时间段存储数据的介质(诸如,寄存器、高速缓存或存储器),而是指半永久地存储数据且可由机器读取的介质。非暂时性计算机可读介质的示例可以包括CD、DVD、硬盘、蓝光盘、USB、存储卡和ROM。

另外,根据上述实施例的元件(例如,模块或程序)中的每一个可以包括单个实体或多个实体,并且在上述实施例中,可以省略上述子元件中的一些子元件或还可以包括其他子元件。备选地或附加地,可以将一些元件(例如:模块或程序)集成到一个实体中,以执行与在集成之前由每个相应元件执行功能相同或相似的功能。根据实施例,由模块、程序或其他元件执行的操作可以以并行、重复或启发式的方式顺序地执行,或者至少一些操作可以以不同的顺序执行、被省略,或者可以添加不同的操作。

尽管已经图示说明和描述了本公开的实施例,但是本公开不限于前述的实施例,并且显而易见的是,在不背离如所附权利要求所要求保护的本公开的主旨的情况下,本公开所属的技术领域的普通技术人员可以做出各种修改。此外,旨在不应独立于本公开的技术构思或前景来解释这些修改。

如上所述,根据本公开的实施例,电子装置可以识别当前正被显示的内容的标题。

另外,如果通过电子装置再现的内容是游戏内容,则电子装置可以识别用户实际玩耍的游戏内容的游戏时间。

27页详细技术资料下载
上一篇:一种医用注射器针头装配设备
下一篇:一种超高清视频优化方法及系统

网友询问留言

已有0条留言

还没有人留言评论。精彩留言会获得点赞!

精彩留言,会给你点赞!

技术分类