体验提供系统、体验提供方法及体验提供程序

文档序号:1510438 发布日期:2020-02-07 浏览:16次 >En<

阅读说明:本技术 体验提供系统、体验提供方法及体验提供程序 (Experience providing system, experience providing method, and experience providing program ) 是由 安井裕司 德永诗园 渡边将行 西冈一树 广畑雄大 山根久和 下山田贵行 于 2018-06-15 设计创作,主要内容包括:体验提供系统具备:乘客信息检测部,其检测与车辆的乘客相关的信息;外界信息检测部,其检测所述车辆的外部的信息;输出部,其输出声音;假想影像生成部,其输出显示;以及提供部,其基于所述乘客信息检测部及所述外界信息检测部的检测结果,使由所述输出部输出的声音与由所述假想影像生成部输出的所述显示同步而动态地提供针对所述车辆的乘客的互动。(The experience providing system is provided with: a passenger information detection unit that detects information relating to a passenger of the vehicle; an external information detection unit that detects information outside the vehicle; an output unit that outputs sound; a virtual image generating unit for outputting and displaying; and a providing unit that dynamically provides interaction with a passenger of the vehicle in synchronization with the display output by the virtual image generating unit based on detection results of the passenger information detecting unit and the external world information detecting unit.)

体验提供系统、体验提供方法及体验提供程序

技术领域

本发明的方案涉及体验提供系统、体验提供方法及体验提供程序。

本申请基于在2017年6月16日于日本申请的日本特愿2017-118702号来主张优先权,将其内容援用于此。

背景技术

以往,关于自动地进行速度控制和转向控制中的至少一方的自动驾驶进行了研究。与此相关联地,公开了一种以观察者能够感受到进深感的方式显示具有进深的图像的技术(例如,参照专利文献1)。

在先技术文献

专利文献

专利文献1:日本特开2017-30737号公报

发明内容

发明要解决的课题

在以往的技术中,未考虑关于使车辆的乘客愉悦的内容。

本发明是考虑这样的情况而做出的,其目的之一在于,提供一种能够向车辆的乘客提供以往没有的乐趣的体验提供系统、体验提供方法及体验提供程序。

用于解决课题的方案

本发明涉及的、体验提供系统、体验提供方法及体验提供程序采用了以下的构成。

(1):本发明的一方案涉及一种体验提供系统,具备:乘客信息检测部,其检测与车辆的乘客相关的信息;外界信息检测部,其检测所述车辆的外部的信息;输出部,其输出声音;假想影像生成部,其输出显示;以及提供部,其基于所述乘客信息检测部及所述外界信息检测部的检测结果,使由所述输出部输出的声音与由所述假想影像生成部输出的所述显示同步而动态地提供针对所述车辆的乘客的互动。

(2):在(1)的方案中,所述假想影像生成部以与对应于所述车辆的座位的拍摄图像重叠的方式呈现假想影像。

(3):在(1)的方案中,所述假想影像生成部以从所述乘客观察时与所述车辆的座位镜像位置对应的方式呈现假想影像。

(4):在(1)的方案中,所述提供部基于由所述外界信息检测部检测到的所述车辆的外部的状况,来调整通过所述输出部进行讲话的时机。

(5):在(4)的方案中,所述外界信息检测部对所述车辆的外部的信息的检测能力与所述车辆的乘客对所述车辆的外部的信息的检测能力为同等程度。

(6):在(1)的方案中,所述提供部提供的所述互动包括与所述乘客信息检测部检测到的在车辆内听取的乐曲对应的声音。

(7):在(1)的方案中,所述提供部使所述输出部输出的乐曲与所述假想影像生成部输出的显示同步。

(8):在(7)的方案中,所述乘客信息检测部具备存储部,该存储部检测并存储针对所述提供部提供的互动的所述车辆的乘客的状态,所述乘客信息检测部基于所述存储部的状态来变更所述车辆的乘客能够利用的所述互动。

(9):在(1)的方案中,所述车辆是自动驾驶车辆,所述提供部构成为所述乘客信息检测部判断是否处于所述车辆的自动驾驶期间,并在手动驾驶期间限制所述互动的至少一部分动作方案。

(10):在(1)的方案中,所述提供部使用设置于所述车辆之外的判断部来执行所述互动。

(11):在(1)的方案中,通过外部处理部的输出来提供所述互动,该外部处理部在所述车辆之外对所述乘客信息检测部及所述外界信息检测部检测到的信号进行处理。

(12):在(1)的方案中,所述乘客信息检测部构成为能够检测由所述提供部已提供的互动,所述提供部基于包括所述已提供的互动在内的所述乘客信息检测部及所述外界信息检测部的检测结果而动态地提供针对所述车辆的乘客的互动。

(13):在(1)的方案中,在所述提供部应提供的所述互动存在多个时,所述提供部基于所述乘客信息检测部及所述外界信息检测部的检测结果来决定多个所述互动的执行时机或执行可否。

(14):在(1)的方案中,所述体验提供系统具备事件判断部,该事件判断部基于所述乘客信息检测部及所述外界信息检测部的检测结果来检测事件的发生,所述事件判断部包括:本地判断部,其在车辆上判断事件;以及远程判断部,其通过与所述车辆通信连接的外部服务器来判断事件。

(15):在(1)的方案中,所述体验提供系统具备:事件判断部,其基于所述乘客信息检测部及所述外界信息检测部的检测结果来检测事件的发生;以及互动控制部,其基于所述乘客信息检测部及所述外界信息检测部的检测结果来控制由所述提供部提供的互动,所述事件判断部与所述互动控制部的执行期间并行地持续进行所述事件的发生检测,并且,所述提供部基于在所述互动的提供期间检测到的所述事件的发生而动态地提供所述互动。

(16):本发明的一方案涉及一种体验提供方法,其中,车载计算机执行如下操作:检测乘客信息;检测外界信息;输出声音;输出显示;以及基于所述乘客信息及所述外界信息,使输出的声音与输出的假想影像同步而对车辆的乘客动态地提供互动。

(17):本发明的一方案涉及一种体验提供程序,其中,使车载计算机执行如下操作:检测乘客信息;检测外界信息;输出声音;输出显示;以及基于所述乘客信息及所述外界信息,使输出的声音与输出的假想影像同步而对车辆的乘客动态地提供互动。

发明效果

根据(1)、(5)、(14)、(16)或(17),能够向车辆的乘客提供以往没有的乐趣。

根据(2),能够对车辆的乘客给予假想影像同乘于车辆的错觉。

根据(3),能够使车辆的乘客产生假想影像就座于车辆的座位的视觉错误。

根据(4),能够向乘客提供假想影像的讲话及动作根据车辆的乘客的状况及车辆的外部的状况而动态地发生变化的乐趣。

根据(6),能够使假想影像进行可获得车辆的乘客的共鸣的讲话。

根据(7)或(8),能够向车辆的乘客提供以往没有的互动的乐趣。

根据(9),能够使车辆的手动驾驶期间的安全性提高。

根据(10),通过使用设置于车辆之外的判断部来执行互动,与在车辆内设置有判断部的情况相比能够实现车辆的成本降低。

根据(11),通过外部处理部的输出来提供互动,该外部处理部在所述车辆之外对乘客信息检测部及外界信息检测部检测到的信号进行处理,从而能够实现车辆的成本降低。

根据(12)或(13),能够向乘客提供更加适合于乘客的状态或乘客的周边的环境的互动。

根据(15),提供部即使在互动的提供期间也能够适当地向乘客提供互动。

附图说明

图1是体验提供系统的结构图。

图2是示出包括乘客信息检测部的车载设备的一例的图。

图3是示出投影装置在前窗投影假想影像及假想座位的一例的图。

图4是示出投影装置在左侧窗投影假想影像及假想座位的一例的图。

图5是示出投影装置在后视镜投影假想影像及假想座位的一例的图。

图6是示出全息图投影装置在车辆的空着的座位上投影假想影像的一例的图。

图7是示出触摸面板式显示器显示假想影像的脸部的一例的图。

图8是示出透射板型显示器显示假想影像的脸部的一例的图。

图9是示出讲话生成部生成关于观光景点的假想影像的讲话的原始数据的处理等的流程的一例的流程图。

图10是示出讲话生成部生成催促车辆的乘客歌唱的假想影像的讲话的原始数据的处理等的流程的一例的流程图。

图11是对体验提供服务器及车辆中的处理的一例进行说明的序列图。

图12是具有自动驾驶功能的车辆的结构图。

图13是用于对自动驾驶的处理过程进行说明的图。

图14是示出体验提供系统1A所包含的功能结构的一例的图。

图15是示出在车辆内执行互动的情况的处理的流程的序列图。

具体实施方式

以下,参照附图对本发明的体验提供系统、体验提供方法及体验提供程序的实施方式进行说明。体验提供系统是向车辆的乘客提供用于使车辆的乘客愉悦的互动(例如娱乐节目内容)的系统。互动包括与在车辆内听取的乐曲对应的声音。

[整体结构]

图1是体验提供系统1的结构图。体验提供系统1例如具备提供内容的内容提供服务器100、和从内容提供服务器100接受内容的提供并向乘客提供的车辆200。这些构成要素能够借助网络NW而互相通信。网络NW包括互联网、WAN(Wide Area Network:广域网)、LAN(Local Area Network:局域网)、公用线路、供应商装置、专用线路、无线基站等。

[车辆]

首先,对车辆200进行说明。车辆200例如具备通信部210、乘客信息检测部220、外界信息检测部230、提供部240、声音输入部250、假想影像选择部260、内容选择部270、及存储部280。

通信部210例如是用于与网络NW连接的无线通信模块。通信部210基于Wi-Fi、DSRC(Dedicated Short Range Communications:专用短程通信)、Bluetooth(注册商标)、其他的通信标准进行无线通信。作为通信部210,也可以准备与用途相应的多个通信部。通信部210借助网络NW而与内容提供服务器100之间进行通信。

乘客信息检测部220检测与车辆200的乘客相关的信息。与乘客相关的信息是指,例如乘客的表情、乘客的讲话的有无、在车内的座位是否就座有乘客等。乘客信息检测部220例如包括车内相机、车内麦克风、就座传感器等中的一部分或全部。乘客信息检测部220例如以规定周期检测与车辆200的乘客相关的信息,并借助通信部210及网络NW而向内容提供服务器100发送检测到的信息。

外界信息检测部230检测车辆200的外部的信息。外部的信息是指,例如车外的景色、车外的声音等。外界信息检测部230例如包括车外相机、车外麦克风等中的一部分或全部。外界信息检测部230例如以规定周期检测车辆200的外部的信息,并借助通信部210及网络NW而向内容提供服务器100发送检测到的信息。

提供部240例如具备假想影像生成部242、声音输出部244、及内容播放部246。假想影像生成部242例如生成用于使车辆200的乘客愉悦的人物的假想影像。假想影像生成部242基于从内容提供服务器100接收到的原始数据,呈现车辆200的乘客能够视觉确认的人物的假想影像(显示)。假想影像生成部242例如包括投影装置、窗、后视镜、显示器、全息图投影装置等中的一部分或全部。

声音输出部244例如输出用于使车辆200的乘客愉悦的声音。声音输出部244基于从内容提供服务器100接收到的原始数据而输出声音。声音输出部244例如包括扬声器。

内容播放部246提供使声音输出部244所输出的声音与假想影像生成部242所使呈现的假想影像的动作同步(或协调)的针对车辆200的乘客的内容。即,内容播放部246使声音输出部244输出的声音(例如乐曲)与假想影像生成部242输出的显示(例如假想影像的动作)同步。内容播放部246例如通过使用日本特开2016-41142号公报所记载的MMD(MikuMikuDance)来使声音与假想影像的动作协调(即连动)。

声音输入部250例如接受车辆200的乘客的歌声等输入。声音输入部250例如包括歌唱用麦克风。声音输入部250借助通信部210及网络NW而向内容提供服务器100的例如歌唱实力评分部134发送表示车辆200的乘客的歌声等的信号(数据)。

假想影像选择部260接受由车辆200的乘客对假想影像生成部242所呈现的人物的假想影像进行的选择。假想影像选择部260将表示接受到的选择内容的数据向内容提供服务器100发送。

内容选择部270接受由车辆200的乘客对由内容提供服务器100提供的内容进行的选择。内容选择部270将表示接受到的选择内容的数据向内容提供服务器100发送。

存储部280用HDD(Hard Disk Drive:硬盘驱动器)、闪存器、RAM(Random AccessMemory:随机存取存储器)、ROM(Read Only Memory:只读存储器)等实现。存储部280存储从内容提供服务器100接收到的信息、乘客信息检测部220检测到的与乘客相关的信息、外界信息检测部230检测到的车辆200的外部的信息、声音输入部250接受到的车辆200的乘客的歌声等的数据等。

图2是示出包括乘客信息检测部220的车载设备的一例的图。在图2的例子中,乘客信息检测部220包括车内相机220A、车内麦克风220B、及就座传感器220C。车内相机220A拍摄乘客的例如脸部并输出图像。车内相机220A将拍摄到的图像的数据向内容提供服务器100发送。

车内麦克风220B取得车内的声音。车内麦克风220B将所取得的车内的声音的数据向内容提供服务器100发送。

就座传感器220C基于施加于就座传感器220C的压力,检测在设置有就座传感器220C的座位是否就座有乘客。就座传感器220C将表示是否就座有乘客的信号(数据)向内容提供服务器100发送。

在图2的例子中,外界信息检测部230包括车外相机230A~230C和车外麦克风230D。外界信息检测部230也可以包括照度传感器、雨滴传感器、湿度传感器、具备GNSS接收机和地图信息的导航装置、陀螺仪传感器、车速传感器等。

车外相机230A拍摄车辆200的前方的景色的图像。车外相机230A将拍摄到的景色的图像的数据向内容提供服务器100发送。

车外相机230B拍摄车辆200的左侧方的景色的图像。车外相机230B将拍摄到的景色的图像的数据向内容提供服务器100发送。

车外相机230C拍摄车辆200的右侧方的景色的图像。车外相机230C将拍摄到的景色的图像的数据向内容提供服务器100发送。

车外麦克风230D取得车外的声音。车外麦克风230D将所取得的车外的声音的数据向内容提供服务器100发送。

在图2的例子中,假想影像生成部242包括投影装置242A、前窗242B、左侧窗242C、后视镜242E、全息图投影装置242G、触摸面板式显示器装置242H、及透射板型显示器242I。

投影装置242A在前窗242B、左侧窗242C或后视镜242E投影假想影像,呈现车辆200的乘客能够视觉确认的假想影像。全息图投影装置242G在空着的座位上投影假想影像(全息图),呈现车辆200的乘客能够视觉确认的假想影像。投影装置242A或全息图投影装置242G以至少70%以上的比例尺呈现假想影像。投影装置242A或全息图投影装置242G呈现使车辆200的乘客以就座于车辆200的座的方式产生错觉的假想影像。

图3是示出投影装置242A在前窗242B投影假想影像VM及假想座位VS的一例的图。在图3的例子中,投影装置242A在前窗242B呈现就座于假想座位VS的假想影像VM。即,假想影像生成部242以对应于座位的拍摄图像重叠的方式呈现假想影像。

图4是示出投影装置242A在左侧窗242C投影假想影像VM及假想座位VS的一例的图。在图4的例子中,如在图2中由双向箭头所示那样在水平方向上回转而能够变更投影方向的投影装置242A在左侧窗242C呈现就座于假想座位VS的假想影像VM。

图5是示出投影装置242A在后视镜242E投影假想影像VM及假想座位VS的一例的图。在图5的例子中,投影装置242A在后视镜242E呈现就座于假想座位VS的假想影像VM。

图6是示出全息图投影装置242G在车辆200的空着的座位S上投影假想影像VM的一例的图。在图6的例子中,全息图投影装置242G在车辆200的空着的座位S上呈现车辆200的乘客能够视觉确认的假想影像VM。

返回到图2,触摸面板式显示器装置242H将假想影像显示在画面上,而呈现车辆200的乘客能够视觉确认的假想影像。触摸面板式显示器装置242H例如以至少70%以上的比例尺呈现假想影像。

图7是示出触摸面板式显示器装置242H显示假想影像VM的脸部的一例的图。在图7的例子中,触摸面板式显示器装置242H在触摸面板式显示器装置242H的画面上呈现假想影像VM的脸部。

返回到图2,透射板型显示器242I例如配置于驾驶员座与副驾驶员座之间。透射板型显示器242I将假想影像显示在画面上,而呈现车辆200的乘客能够视觉确认的假想影像。透射板型显示器242I例如以至少70%以上的比例尺呈现假想影像。透射板型显示器242I例如是在透明基板上排列有LED的透明LED显示器、具有在透明基板之上排列有用2个电极夹着功能性有机材料的层叠膜的有机EL(Electroluminescence:电致发光)元件的结构的OLED(Organic Light Emitting Diode:有机发光二极管)等。透射板型显示器242I例如也可以是具有在驾驶员座的头枕埋设的投影装置和偏振板的平视显示器型的显示器。

图8是示出透射板型显示器242I显示假想影像VM的脸部的一例的图。在图8的例子中,透射板型显示器2421在透射板型显示器242I的画面上呈现假想影像VM的脸部。即,假想影像生成部242以从乘客观察时与车辆的座镜像位置对应的方式呈现假想影像。

在图2的例子中,声音输出部244包括左前扬声器244A、右前扬声器244B、左后扬声器244C、及右后扬声器244D。

声音输入部250例如包括歌唱用麦克风250A。

假想影像选择部260例如包括触摸面板式显示器装置242H。车辆200的乘客例如通过对触摸面板式显示器装置242H进行触摸输入,从而从多个人物的假想影像中选择由假想影像生成部242呈现的假想影像。

内容选择部270例如包括触摸面板式显示器装置242H。车辆200的乘客例如通过对触摸面板式显示器装置242H进行触摸输入,从而从内容提供服务器100能够提供的多个内容中选择期望的内容。

[内容提供服务器]

内容提供服务器100例如具备通信部110、存储部120、及控制部130。内容提供服务器100所包含的功能结构中的一部分或全部也可以搭载于车辆200。车辆200所包含的功能结构中的一部分或全部也可以搭载于内容提供服务器100。

通信部110例如是用于与网络NW连接的通信模块。通信部110例如包括NIC(Network Interface Card:网络接口卡)。通信部110借助网络NW而与车辆200进行通信。

存储部120用HDD、闪存器、RAM、ROM等来实现。存储部120存储从车辆200接收到的信息、向车辆200发送的信息、在内容提供服务器100中生成的原始数据等。在内容提供服务器100向车辆200的乘客提供卡拉OK内容的情况下,卡拉OK内容数据122(例如,伴奏音乐、歌词等的数据)存储于存储部120。

控制部130例如通过CPU(Central Processing Unit:中央处理单元)等处理器执行存储于存储部120的程序来实现。控制部130例如具备原始数据生成部132和歌唱实力评分部134。这些功能部中的一部分或全部也可以由LSI(Large Scale Integration:大规模集成)、ASIC(Application Specific Integrated Circuit:专用集成电路)、FPGA(Field-Programmable Gate Array:现场可编程门阵列)、GPU(Graphics Processing Unit:图形处理单元)等硬件实现,也可以通过软件和硬件的协同配合来实现。程序也可以预先保存于HDD(Hard Disk Drive:硬盘驱动器)、闪存器等存储装置,也可以保存于DVD、CD-ROM等能够装卸的存储介质,也可以通过将存储介质装配于驱动装置而安装于存储装置。

原始数据生成部132生成协调车辆200的声音输出部244输出的声音(例如,假想影像的歌唱、讲话等)与车辆200的假想影像生成部242生成的假想影像的动作而成的针对车辆200的乘客的内容的原始数据。因此,原始数据生成部132例如具备讲话生成部132A、歌声生成部132B、及动作生成部132C。

讲话生成部132A生成车辆200的假想影像生成部242所呈现的假想影像的讲话(即,假想影像说话的声音)的原始数据。讲话生成部132A搭载AI(人工智能),并具备自动声音响应(Interactive Voice Response)功能。

AI是指使用计算机来人工地实现学习、推论、判断等人类的智能的工作的技术。AI也包括机械学习及深度学习(深层学习)。机械学习是指,使用如下算法的方法:对社会中的特定的事项解析数据,从其结果进行学习,并进行判断或预测。深度学习是指用于安装机械学习的方法。在深度学习中,可以按照能够由机器进行的(或者,能够期待的)所有种类的支援的方法来对任务进行分类。机械学习和深度学习是用于AI的学习的技术。机械学习具有不是开发者预先将所有的动作程序化而是AI自身解析数据而发现法则性、规则的特征。即,机械学习是AI中的、能够通过训练而执行特定的任务的学习。深度学习是机械学习进一步发展而得到的。在深度学习中,在分析信息、数据时使用的框架与机械学习不同。在深度学习中,通过使用模仿人类的神经而制作出的多层结构的神经网络,从而提高计算机进行的数据的分析及学习的能力。

自动声音响应功能是指使用预先录制的声音或动态地生成的声音来响应车辆200的乘客的讲话的功能。

讲话生成部132A基于由车辆200的乘客信息检测部220检测到的车辆200的乘客的讲话,生成假想影像的讲话的原始数据,使车辆200的乘客与假想影像的对话成立。

讲话生成部132A也可以基于由车辆200的外界信息检测部230检测到的车辆200的外部的信息生成假想影像的讲话的原始数据。例如,讲话生成部132A关于外界信息检测部230的检测结果(例如,开始下雨了、道路开始拥堵了的情况等)生成假想影像的讲话的原始数据。在该情况下,外界信息检测部230的检测能力设定为与由乘客对车辆200的外部的信息的检测能力相同的程度。其结果是,讲话生成部132A能够生成得到乘客的共鸣的假想影像的讲话的原始数据。例如,讲话生成部132A仅基于假想影像朝向的方向的信息生成假想影像的讲话的原始数据。例如,在伴随于车辆200的移动而从乘客能够观察的范围变窄、或伴随于天气的恶化而可视性变差的情况下,外界信息检测部230的检测能力与由乘客对车辆200的外部的信息的检测能力的下降相应地下降。

外界信息检测部230例如通过使用国际公开第2014/007175号所记载的技术来检测开始下雨了的情况。在该例子中,在车辆200的行驶期间,在由车外相机230A拍摄到的图像中,在尽管背景向远方流去但是在大致同一位置具有亮度比周围高一定时间以上的部位的情况下,外界信息检测部230判断为该部位为附着于车外相机230A的镜头的水滴,从而检测到开始下雨了的情况。外界信息检测部230借助网络NW而向内容提供服务器100的讲话生成部132A发送表示开始下雨了的数据。

外界信息检测部230例如通过使用日本特开平11-064031号公报的图7所记载的技术来检测道路开始拥堵了的情况。在该例子中,外界信息检测部230通过GNSS接收机、陀螺仪传感器、及车速传感器来检测车辆200的当前位置。车速传感器检测车辆200的车速。陀螺仪传感器检测车辆200的行进方向。外界信息检测部230在车辆200的车速为规定值以下的状态持续了规定时间以上的情况下,判断为道路开始拥堵了。外界信息检测部230借助网络NW而向内容提供服务器100的讲话生成部132A发送表示道路开始拥堵了的情况的数据。

讲话生成部132A也可以生成关于外界信息检测部230检测的例如车外的观光景点的假想影像的讲话的原始数据。在该例子中,外界信息检测部230具有导航装置,该导航装置具备包含观光景点的地图信息和GNSS接收机。外界信息检测部230例如通过使用日本专利第5921162号公报所记载的技术来检测车辆200位于观光景点的情况。外界信息检测部230借助网络而向内容提供服务器100的讲话生成部132A发送表示车辆200位于观光景点的数据。内容提供服务器100的存储部120存储有多个观光景点各自的观光信息、和关于各观光景点的假想影像的讲话的脚本。讲话生成部132A基于存储于存储部120的脚本生成关于该观光景点的假想影像的讲话的原始数据。

图9是示出讲话生成部132A生成关于观光景点的假想影像的讲话的原始数据的处理等的流程的一例的流程图。首先,内容提供服务器100的控制部130借助网络NW取得车辆200的外界信息检测部230的导航装置所决定的车辆200的路径、和导航装置所具备的地图信息(步骤S100)。控制部130判断在所取得的车辆200的路径上是否存在观光景点(步骤S101)。在观光景点不存在于车辆200的路径上的情况下,结束本流程图的例程的处理。另一方面,在观光景点位于车辆200的路径上的情况下,控制部130借助网络NW取得导航装置的GNSS接收机检测到的车辆200的当前位置(步骤S102)。控制部130算出车辆200的当前位置与观光景点的距离(步骤S103)。控制部130借助网络NW取得外界信息检测部230的车速传感器检测到的车辆200的车速(步骤S104)。控制部130基于距离和车速算出车辆200到达观光景点为止的所需时间(步骤S105)。内容提供服务器100的讲话生成部132A生成关于观光景点的假想影像的讲话的原始数据,并借助网络NW向车辆200的声音输出部244发送(步骤S106)。控制部130判断车辆200是否到达了观光景点(步骤S107)。在车辆200没有到达观光景点的情况下,控制部130在经过规定时间后再次执行步骤S107。另一方面,在车辆200到达了观光景点的情况下,控制部130将使车辆200的声音输出部244输出关于观光景点的假想影像的讲话的控制信号借助网络NW向声音输出部244发送(步骤S108)。这样,控制部130基于车辆的外部的状况,调整使声音输出部244输出讲话的时机。

讲话生成部132A也可以生成关于外界信息检测部230检测的例如车外的广告的假想影像的讲话的原始数据。在该例子中,车辆200的存储部280存储有辞典数据。外界信息检测部230例如通过使用日本特开2015-153032号公报所记载的技术来识别车外相机230A~230C拍摄到的图像所包含的字符串。具体而言,外界信息检测部230通过OCR(OpticalCharacter Recognition:光符识别)来识别图像所包含的字符串。在日本特开2015-153032号公报所记载的技术中,对识别到的字符串进行翻译,但是,外界信息检测部230基于存储于存储部280的辞典数据,进行识别到的字符串是否是广告的判断。在识别到的字符串是广告的情况下,外界信息检测部230将该表示广告的含义的数据借助网络NW向内容提供服务器100的讲话生成部132A发送。内容提供服务器100的存储部120存储有关于多个广告中的各广告的假想影像的讲话的脚本。讲话生成部132A基于存储于存储部120的脚本,生成关于该广告的假想影像的讲话的原始数据。

考虑尽管内容提供服务器100向车辆200的乘客提供卡拉OK内容,但车辆200的乘客不与卡拉OK内容的伴奏音乐相匹配地歌唱的情况。在该情况下,基于表示车辆200的乘客不与卡拉OK内容的伴奏音乐相匹配的歌唱的意旨的车辆200的声音输入部250的检测结果,讲话生成部132A也可以生成催促车辆200的乘客歌唱的假想影像的讲话的原始数据。在该例子中,声音输入部250的歌唱用麦克风检测到的车辆200的乘客的歌声借助网络NW向内容提供服务器100的控制部130发送。

控制部130基于接收到的车辆200的乘客的歌声(详细而言,由于没有歌唱所以无声音)、和卡拉OK内容数据122的伴奏音乐,判断车辆200的乘客是否与伴奏音乐相匹配地歌唱。内容提供服务器100的存储部120存储有催促车辆200的乘客歌唱的假想影像的讲话的脚本。在车辆200的乘客未与伴奏音乐相匹配地歌唱的情况下,讲话生成部132A基于存储于存储部120的脚本,生成催促车辆200的乘客歌唱的假想影像的讲话的原始数据。在车辆200的乘客未与伴奏音乐相匹配地歌唱的情况下,讲话生成部132A也可以生成与伴奏音乐相匹配的假想影像的助兴喝彩(喝彩声及拍打节拍声)的原始数据。在讲话生成部132A生成假想影像的拍打节拍声的原始数据的情况下,动作生成部132C也可以生成与拍打节拍声相匹配的假想影像的拍打节拍动作的原始数据。

图10是示出讲话生成部132A生成催促车辆200的乘客歌唱的假想影像的讲话的原始数据的处理等的流程的一例的流程图。首先,内容提供服务器100的控制部130判断内容提供服务器100是否处于对车辆200的乘客提供卡拉OK内容的期间(步骤S200)。在内容提供服务器100不处于提供卡拉OK内容的期间的情况下,结束本流程图的例程的处理。另一方面,在内容提供服务器100处于提供卡拉OK内容的期间的情况下,控制部130取得车辆200的声音输入部250的歌唱用麦克风检测到的车辆200的乘客的歌声(步骤S201)。控制部130判断车辆200的乘客是否正在歌唱(步骤S202)。在车辆200的乘客正在歌唱的情况下,结束本流程图的例程的处理。另一方面,在车辆200的乘客未歌唱的情况下,内容提供服务器100的讲话生成部132A生成催促车辆200的乘客歌唱的假想影像的讲话的原始数据,并借助网络NW向车辆200的声音输出部244发送(步骤S203)。控制部130取得车辆200的乘客的歌声(步骤S204)。控制部130判断车辆200的乘客是否开始了歌唱(步骤S205)。在车辆200的乘客开始了歌唱的情况下,结束本流程图的例程的处理。另一方面,在车辆200的乘客未开始歌唱的情况下,讲话生成部132A生成催促车辆200的乘客歌唱的假想影像的喝彩声的原始数据,并借助网络NW向车辆200的声音输出部244(步骤S206)。控制部130取得车辆200的乘客的歌声(步骤S207)。控制部130判断车辆200的乘客是否开始了歌唱(步骤S208)。在车辆200的乘客开始了歌唱的情况下,结束本流程图的例程的处理。另一方面,在车辆200的乘客未开始歌唱的情况下,动作生成部132C生成催促车辆200的乘客歌唱的假想影像的拍打节拍动作的原始数据,并且,讲话生成部132A生成假想影像的拍打节拍声的原始数据,并借助网络NW向车辆200的假想影像生成部242及声音输出部244发送(步骤S209)。

歌声生成部132B生成车辆200的声音输出部244输出的假想影像的歌声的原始数据。在内容提供服务器100向车辆200的乘客提供卡拉OK内容的情况下,歌声生成部132B也可以生成与车辆200的声音输出部244输出的卡拉OK内容的伴奏音乐相匹配地歌唱的假想影像的歌声的原始数据。在该例子中,假想影像的歌声的原始数据例如使用日本特开2008-58379号公报所记载的技术来生成。歌声生成部132B例如是对实际存在的人物的发音进行录音,将其分解为声音要素并进行了数据库化,之后,对该数据库的声音要素进行合成而生成期望的声音的Concatenative(日文:コンキヤテイ礻イテイブ)型或语料库型TTS(text-to-speech:语音合成)系统。歌声生成部132B也可以是参量型TTS系统。

在即使内容提供服务器100的歌声生成部132B生成假想影像的歌声的原始数据,且车辆200的声音输出部244输出假想影像的歌声,车辆200的乘客也未开始歌唱的情况下,内容提供服务器100的控制部130也可以停止向车辆200的声音输出部244发送假想影像的歌声的原始数据。在该情况下,也可以代替由歌声生成部132B生成假想影像的歌声的原始数据,而是讲话生成部132A生成针对车辆200的乘客的假想影像的讲话的原始数据,且车辆200的声音输出部244输出针对车辆200的乘客的假想影像的讲话。

动作生成部132C生成车辆200的假想影像生成部242所呈现的假想影像的动作的原始数据。如上所述,假想影像生成部242所呈现的假想影像的动作例如通过使用MMD来与假想影像的讲话和/或歌声协调。

在内容提供服务器100向车辆200的乘客提供卡拉OK内容的情况下,基于动作生成部132C生成的原始数据来协调假想影像生成部242所呈现的假想影像的动作与卡拉OK内容的伴奏音乐。

例如,也可以是,在车辆200的乘客信息检测部220检测的乘客的表情等和/或外界信息检测部230检测的车外的景色等发生变化的情况下,以与这些变化相应地声音输出部244所输出的假想影像的讲话动态地发生变化的方式,由讲话生成部132A生成原始数据,并且,以假想影像生成部242生成的假想影像的动作动态地发生变化的方式,由动作生成部132C生成原始数据。即,在该例子中,讲话生成部132A及动作生成部132C不使乘客信息检测部220及外界信息检测部230检测到的信息蓄积于存储部120,基于最新信息生成原始数据。例如,乘客信息处理部410也可以具备存储部(存储装置或信息存储区域)。在该存储部存储有乘客信息处理部410检测到的、车辆的乘客针对提供部240所提供的互动的状态。提供部240也可以基于上述的存储部的状态来变更车辆的乘客能够利用的所述互动。例如,提供部240也可以基于存储于存储部280的信息中的、将车辆的乘客的状态与互动互相建立了对应关系的信息来变更互动。互动的变更也可以由原始数据生成部132进行。在该情况下,原始数据生成部132基于存储于存储部120的信息中的、将车辆的乘客的状态与互动互相建立了对应关系的信息来变更互动。

车辆200的声音输出部244基于讲话生成部132A及歌声生成部132B生成的原始数据而输出假想影像的讲话及歌声。车辆200的假想影像生成部242基于动作生成部132C生成的原始数据而呈现进行动作的假想影像。通过呈现讲话及动作能够动态地发生变化的假想影像,从而能够使车辆200的乘客产生假想影像同样乘坐于车辆200这样的错觉。

歌唱实力评分部134在内容提供服务器100向车辆200的乘客提供卡拉OK内容的情况下,对与卡拉OK内容的伴奏音乐相匹配地歌唱的车辆200的乘客的歌唱实力进行评分。歌唱实力评分部134的评分结果越高,则车辆200的假想影像生成部242越使车辆200的乘客能够借助假想影像选择部260选择的假想影像提升级别。

图11是对内容提供服务器100及车辆200中的处理的一例进行说明的序列图。

(步骤S1)车辆200的内容选择部270接受由车辆200的乘客进行的内容的选择。

(步骤S2)车辆200将表示所选择的内容(在该例子中,为卡拉OK内容)的数据向内容提供服务器100发送。

(步骤S3)车辆200的假想影像选择部260接受由车辆200的乘客进行的假想影像的选择。

(步骤S4)车辆200将表示所选择的假想影像的数据向内容提供服务器100发送。

(步骤S5)内容提供服务器100将卡拉OK内容的伴奏音乐、歌词等的数据向车辆200发送。

(步骤S6)车辆200的乘客信息检测部220检测与车辆200的乘客相关的信息。

(步骤S7)车辆200将检测到的与车辆200的乘客相关的信息向内容提供服务器100发送。

(步骤S8)车辆200的外界信息检测部230检测车辆200的外部的信息。

(步骤S9)车辆200将检测到的车辆200的外部的信息向内容提供服务器100发送。

(步骤S10)基于与车辆200的乘客相关的信息及车辆200的外部的信息,内容提供服务器100的讲话生成部132A生成在车辆200的声音输出部244中用于假想影像的讲话的输出的原始数据。歌声生成部132B生成在车辆200的声音输出部244中用于假想影像的歌声的输出的原始数据。动作生成部132C生成在车辆200的假想影像生成部242中用于假想影像的动作的生成的原始数据。

(步骤S11)内容提供服务器100将所生成的原始数据向车辆200发送。

(步骤S12)车辆200的提供部240向车辆200的乘客提供协调假想影像的动作与声音(假想影像的讲话、歌声等)而成的内容。

(步骤S13)车辆200的乘客信息检测部220检测内容的提供期间的与车辆200的乘客相关的信息。该信息表示乘客针对所提供的内容的车辆200的反应。

(步骤S14)车辆200将在内容的提供期间检测到的与车辆200的乘客相关的信息向内容提供服务器100发送。

(步骤S15)车辆200的外界信息检测部230检测内容的提供期间的车辆200的外部的信息。

(步骤S16)车辆200将在内容的提供期间检测到的车辆200的外部的信息向内容提供服务器100发送。

(步骤S17)基于内容的提供期间的与车辆200的乘客相关的信息及车辆200的外部的信息,讲话生成部132A生成用于假想影像的讲话的输出的原始数据,歌声生成部132B生成用于假想影像的歌声的输出的原始数据,动作生成部132C生成用于假想影像的动作的生成的原始数据。

(步骤S18)内容提供服务器100将所生成的原始数据向车辆200发送。

(步骤S19)车辆200的提供部240基于在内容的提供期间生成的原始数据,向车辆200的乘客提供假想影像的讲话、歌声及动作动态地变化的内容。

接受内容的提供的乘客所乘坐的车辆200例如是基本上不需要驾驶操作的自动驾驶车辆。以下,作为接受内容的提供的乘客所乘坐的车辆200为自动驾驶车辆的情况进行说明。接受内容的提供的乘客所乘坐的车辆200电可以是手动驾驶车辆。

[自动驾驶车辆]

图12是具有自动驾驶功能的车辆200的结构图。车辆200除了具备图1所示的构成要素(通信部21O、乘客信息检测部220、外界信息检测部230、提供部240、声音输入部250、假想影像选择部260及存储部280)以外,例如还具备外界监视单元310、导航装置330、推荐车道决定装置340、自动驾驶控制单元350、驱动力输出装置360、制动装置362、及转向装置364。

外界监视单元310例如包括相机、雷达、LIDAR(激光雷达)(Light Detection andRanging:光探测和测距)、基于它们的输出进行传感器融合处理的物体识别装置等。外界监视单元310推断存在于车辆200的周边的物体的种类(尤其是,车辆、行人、及自行车),并与其位置、速度的信息一起向自动驾驶控制单元350输出。在外界监视单元310与外界信息检测部230之间,也可以共用一部分构成要素。

导航装置330例如具备HMI(Human machine Interface:人机界面)332、GNSS接收机334、及导航控制装置336。HMI332例如包括触摸面板式显示器装置、扬声器、麦克风等。GNSS接收机334基于从GNSS卫星(例如GPS卫星)发来的电波对本机的位置(车辆200的位置)进行测位。导航控制装置336例如具备CPU(Central Processing Unit)、各种存储装置,并控制导航装置330整体。在存储装置中保存有地图信息(导航地图)。导航地图是用节点和线路表示道路的地图。导航控制装置336根据由GNSS接收机334测出的车辆200的位置,参照导航地图来决定到使用HMI332指定的目的地为止的路径。导航控制装置336也可以使用通信部210将车辆200的位置和目的地向导航服务器(未图示)发送,取得从导航服务器回复的路径。在导航装置330与外界信息检测部230之间,也可以共用一部分构成要素。即,外界信息检测部230具备的导航装置和导航装置330也可以是共用的导航装置。

推荐车道决定装置340例如具备MPU(Map Positioning Unit:地图定位单元)和各种存储装置。在存储装置中保存有比导航地图详细的高精度地图信息。在高精度地图信息中,例如包括每个车道的道路宽度、坡度、曲率、信号的位置等信息。推荐车道决定装置340决定为了沿着从导航装置330输入的路径进行行驶而优选的推荐车道,并向自动驾驶控制单元350输出。

自动驾驶控制单元350具备CPU、MPU(Micro Processing Unit:微处理器)等一个以上的处理器和各种存储装置。自动驾驶控制单元350以在由推荐车道决定装置340决定的推荐车道上行驶为原则,以避免与从外界监视单元310输入了位置、速度的物体接触的方式,使车辆200自动地行驶。自动驾驶控制单元350例如依次执行各种事件。事件包括:以恒定速度在同一行驶车道行驶的定速行驶事件、追随于前行车辆的追随行驶事件、车道变更事件、汇合事件、分支事件、紧急停止事件、用于通过收费站的收费站事件、用于结束自动驾驶而切换为手动驾驶的交接事件等。在这些事件的执行期间,也存在基于车辆200的周边状况(周边车辆或行人的存在、由道路施工导致的车道狭窄等)计划回避用的行动的情况。

自动驾驶控制单元350生成车辆200将来行驶的目标轨道。目标轨道例如包括速度要素。例如,目标轨道显示为将车辆应到达的地点(轨道点)依次排列而成的轨道。轨道点是每隔规定的行驶距离的车辆应到达的地点,与此不同地,每隔规定的采样时间(例如零点几[sec]左右)的目标速度及目标加速度作为目标轨道的一部分而被生成。轨道点也可以是每隔规定的采样时间的、其采样时刻下的车辆应到达的位置。在该情况下,目标速度和目标加速度的信息以轨道点的间隔来显示。

图13是用于对自动驾驶的处理过程进行说明的图。首先,如上图所示,由导航装置330决定路径。该路径例如是没有进行车道的区分的大致的路径。接着,如中图所示,推荐车道决定装置340决定容易沿着路径行驶的推荐车道。并且,如下图所示,自动驾驶控制单元350生成用于一边回避障碍物等一边尽可能沿着推荐车道行驶的轨道点,并以沿着轨道点(及随附的速度曲线)行驶的方式,控制驱动力输出装置360、制动装置362、转向装置364中的一部分或全部。这样的作用分配仅是一例,例如自动驾驶控制单元350也可以一维地进行处理。

驱动力输出装置360将用于车辆行驶的行驶驱动力(转矩)向驱动轮输出。驱动力输出装置360例如具备内燃机、电动机、及变速器等的组合、和控制它们的动力ECU。动力ECU根据从自动驾驶控制单元350输入的信息、或者从未图示的驾驶操作器输入的信息来控制上述的结构。

制动装置362例如具备制动钳、向制动钳传递液压的液压缸、使液压缸产生液压的电动马达、及制动ECU。制动ECU根据从自动驾驶控制单元350输入的信息、或者从驾驶操作器输入的信息来控制电动马达,以便向各车轮输出与制动操作相应的制动转矩。制动装置362也可以具备将通过驾驶操作器所包含的制动踏板的操作而产生的液压经由主液压缸向液压缸传递的机构来作为备用。制动装置362不限于上述说明了的结构,也可以是根据从自动驾驶控制单元350输入的信息来控制致动器,并将主液压缸的液压向液压缸传递的电子控制式液压制动装置。

转向装置364例如具备转向ECU和电动马达。电动马达例如使力作用于齿条-小齿轮机构而变更转向轮的方向。转向ECU根据从自动驾驶控制单元350输入的信息、或者从驾驶操作器输入的信息,驱动电动马达而使转向轮的方向变更。

车辆200的提供部240在车辆200的自动驾驶期间向车辆200的乘客提供使由声音输出部244输出的声音与由假想影像生成部242呈现的假想影像的动作同步(或协调)而成的内容。在车辆200的手动驾驶期间,提供部240不向车辆200的乘客提供内容。例如,车辆200的提供部240从自动驾驶控制单元350或车辆的控制部取得表示是否正在进行自动驾驶的信息,在车辆200的手动驾驶期间,限制互动的至少一部分动作方案。被限制的动作方案是有可能妨碍驾驶员的注意的动作方案。

在以上说明了的实施方式中,提供部240、假想影像生成部242、声音输出部244、及内容播放部246设置于车辆200,原始数据生成部132、讲话生成部132A、歌声生成部132B、及动作生成部132C设置于内容提供服务器100(即,车辆外),但是,它们也可以仅设置于车辆200,或仅设置于车辆外。

<变形例>

在变形例中,对上述实施方式的功能结构及处理的详细情况进行说明。图14是示出体验提供系统1A所包含的功能结构的一例的图。体验提供系统1除了图2及图12的功能结构以外,还包括图14所示的功能结构。图13的乘客信息检测部220、外界信息检测部230、及提供部240是与图2中说明的乘客信息检测部220、外界信息检测部230、及提供部240同样的功能结构。

车辆200例如还具备信号生成部400、本地判断部510、本地UI处理部610、及本地存储部700。信号生成部400除了具备声音输入部250的功能结构以外,还具备以下的功能结构。信号生成部400例如具备乘客信息处理部410、外界信息处理部420、及环境信息处理部430。

乘客信息处理部410提取出乘客信息检测部220的检测结果中的本地判断部510或远程判断部550所使用的信息,并将提取出的信息向本地判断部510或远程判断部550发送。例如,乘客信息处理部410将由相机拍摄到的图像向本地判断部510或远程判断部550发送。外界信息处理部420提取出外界信息检测部230的检测结果中的本地判断部510或远程判断部550所使用的信息,并将提取出的信息向本地判断部510或远程判断部550发送。外界信息处理部420例如将对外界的状态进行观测的传感器的检测结果向本地判断部510或远程判断部550发送。

环境信息处理部430对取得与环境相关的信息的各种传感器等的检测结果、提供部240所提供的信息进行取得,提取出所取得的信息中的本地判断部510或远程判断部550所使用的信息,并将提取出的信息向本地判断部510或远程判断部550发送。信号生成部400例如在各麦克风所取得的声压信号所表示的指标从基准值偏离了规定程度的情况下,在抽出该声压信号的同时,在检测到一定级别的声压信号的变动的期间,将抽出结果向本地判断部510或远程判断部550发送。

本地判断部510基于信号生成部400的检测结果进行与环境信息相关的判断。与环境信息相关的判断是指,例如与输入输出脉络无关联的事件及环境属性的评价。即,本地判断部510判断从信号生成部400取得的信息是否满足事件的发生条件。本地判断部510例如具备本地事件判断部520、本地属性判断部530、及发送信号生成部540。

本地事件判断部520判断信号生成部400的检测结果(环境信息)是否满足规定的条件。本地事件判断部520在判断为满足规定的条件的情况下,向本地UI处理部610发送表示判断结果的信息。规定的条件是指检测到与输入输出脉络相关联的检测结果。

本地属性判断部530判断在信号生成部400的检测结果中是否包含规定的环境属性。环境属性是指,例如对表示是否处于行驶期间的属性进行表示的信息、对表示周围是否存在建筑物的属性进行表示的信息、对表示周围是否存在观光景点的属性进行表示的信息、对表示规定的声音数据(例如乐曲)的属性进行表示的信息。发送信号生成部540将本地事件判断部520或本地属性判断部530的处理结果向本地UI处理部610发送。

本地UI处理部610执行脉络处理。本地UI处理部610进行输入输出脉络的评价和响应的生成。本地UI处理部610例如具备本地意图推断部620、本地响应生成部630、及发送信号生成部640。

本地意图推断部620基于声音数据判断声音数据是否是带有意志的输入。本地响应生成部630根据乘客的状态使假想影像生成部242生成假想影像。发送信号生成部640将本地意图推断部620或本地响应生成部630的处理结果向提供部240发送。关于存储于本地存储部700的信息在后叙述。

体验提供系统1例如还具备远程判断部550、远程UI处理部650、远程存储部710、及外部参照信息800。远程判断部550、远程处理部650、远程存储部710、及外部参照信息800设置于与车辆不同的场所。

远程判断部550例如具备远程事件判断部560、远程属性判断部570、及发送信号生成部580。远程事件判断部560判断信号生成部400的检测结果(环境信息)是否满足规定的条件。远程属性判断部570判断在信号生成部400的检测结果是否包含规定的环境属性。发送信号生成部580将远程事件判断部560或远程属性判断部570的处理结果向远程UI处理部650发送。通过将远程事件判断部560或远程属性判断部570的处理结果向远程UI处理部650发送,从而在车辆200中提供部240执行互动。

远程UI处理部650执行脉络处理。远程UI处理部650进行输入输出脉络的评价和响应的生成。远程UI处理部650例如具备远程意图推断部660、远程响应生成部670、及发送信号生成部680。远程意图推断部660基于声音数据判断声音数据是否是带有意志的输入。远程响应生成部670根据乘客的状态使假想影像生成部242生成假想影像。发送信号生成部680将远程意图推断部660或远程响应生成部670的处理结果向提供部240发送。

远程存储部710例如存储与存储于本地存储部700的信息同样的信息。外部参照信息800包括乐曲等的声音数据、声音数据的模式等信息。

[具体例]

以下,参照图15对在车辆内执行互动的情况的处理进行说明。信号生成部400例如取得车厢内的环境音,基于所取得的环境音,将抽出的声音数据每隔规定秒(例如5秒)向本地判断部510、远程判断部550、及UI处理部(本地UI处理部610、远程UI处理部650)发送(步骤S300)。

本地事件判断部520在判断为由信号生成部400发送的声音数据的模式与表示乐曲的声音数据的模式类似的情况下,判断为进行音乐的播放(步骤S302)。本地属性判断部530针对声音数据对属性进行判断。在属性存在特征的情况下,本地属性判断部530将判断结果向本地UI处理部610发送(步骤S304)。

远程事件判断部560基于从信号生成部400取得的声音数据和外部参照信息800,判断是否发生了音乐的播放这样的事件(步骤S306),并且对“歌手A”、“乐曲B”这样的属性进行判断,并将判断结果向远程UI处理部650发送(步骤S308)。

接着,本地UI处理部610的本地意图推断部620基于声音数据,判断声音数据是否是带有意志的输入(步骤S310)。本地UI处理部610例如使用AI、预先存储的算法等,判断声音数据是否是带有意志的输入。在步骤S310中,判断为不是带有意志的输入。之后,通过提供部249而播放音乐(步骤S312)。即,提供部240在应提供的互动存在多个时,基于乘客信息处理部410及外界信息处理部420的检测结果,决定多个互动的执行时机或执行可否,并基于决定结果而向乘客提供互动。

在下一周期中,信号生成部400取得车厢内的声音,将取得的声音分离为乐曲音数据和语音数据(步骤S314)。接着,本地事件判断部520在取得乐曲音数据和语音数据并根据该数据判断为正在哼歌或乘客正在进行具有节奏的动作的情况下,判断为发生了“对音乐表现出兴趣”这样的事件(步骤S316)。

而且,本地事件判断部520作为“发生了播放位置检测对象的事件”,根据基于外部参照信息800而确定了的乐曲信息(乐曲数据或歌词、音程等的信息),确定播放位置及与歌手A对应的内容信息,并将确定结果向信号生成部400或本地UI处理部610反馈(步骤S318)。

本地UI处理部610在确定了播放位置并取得了歌词等的附加信息的状况下,判断是否执行规定的动作(步骤S320)。例如,在本地存储部700中存储有规定的事件与在该事件时执行的动作互相建立了对应关系的信息。例如,本地UI处理部610基于从信号生成部400取得的信息,在发生了以下那样的特定状态时,判断为“产生了介入时机”(步骤S320)。特定状态是指,乘客停止哼歌的状态、乘客的动作消失了的状态、或乐曲为间奏的状态。

本地UI处理部610在从本地判断部510取得产生了介入时机的情况下,基于存储于本地存储部700的可用内容信息来执行动作(步骤S322)。可用内容信息是事件与动作建立了对应关系的信息。动作是指,“喜欢这个歌曲吗?”等确认兴趣的输出、与后续的乐曲相匹配的歌唱的生成等。需要说明的是,步骤S320及S322的处理也可以由远程UI处理部650执行。

如上所述,提供部240基于包括已提供的互动的乘客信息处理部410的检测结果,动态地提供针对车辆的乘客的互动。在该情况下,提供部240也可以还加入外界信息处理部420的检测结果,来动态地提供针对车辆的乘客的互动。

[除了上述处理以外,多个事件并行的情况下的处理]

例如,本地判断部510(或远程判断部550)与本地UI处理部610(远程UI处理部650)的执行期间并行地持续进行事件的发生检测,并且,提供部240基于在互动的提供期间检测到的事件的发生,而动态地提供互动。

例如,本地响应生成部630在乘客与乐曲(或间奏)相匹配地活动身体而形成了节奏时,以与乐曲相匹配地对乘客的动作进行镜像的方式使假想影像生成部242生成假想影像。例如,本地响应生成部630在如上述那样乘客活动身体而形成了节奏时,以与上述的介入时机相匹配地挥手或拍手的方式使假想影像生成部242生成假想影像。

在本地事件判断部520基于由外界信息处理部420抽出的传感器数据(例如,由相机从拍摄到的图像抽出的特征量的数据),检测到在外部存在观光名胜等景点而判断为产生“名胜发现”事件的发生的情况下,本地响应生成部630向提供部240输出“那是名胜C”这样的针对外界的评论。在此存在上述的并行事件,因此,“介入时机的产生”那样的其他事件及对此的响应存在重复的情况。在该情况下,本地UI处理部610对重复的事件及针对它们的响应分别决定优先级,根据优先级来调整响应的提供或输出的信息。

根据以上说明的实施方式,体验提供系统1通过具备输出声音的声音输出部244、呈现车辆200的乘客能够视觉确认的人物的假想影像的假想影像生成部242、及提供协调由声音输出部244输出的声音与由假想影像生成部242呈现的假想影像的动作而成的针对车辆200的乘客的内容的提供部240,从而能够针对车辆200的乘客提供以往没有的乐趣。

以上使用实施方式说明了本发明的具体实施方式,但本发明不受这样的实施方式任何限定,在不脱离本发明的主旨的范围内能够施加各种变形及替换。

附图标记说明:

1…体验提供系统,100…内容提供服务器,110…通信部,120…存储部,122…卡拉OK内容数据,130…控制部,132…原始数据生成部,132A…讲话生成部,132B…歌声生成部,132C…动作生成部,134…歌唱实力评分部,200…车辆,210…通信部,220…乘客信息检测部,220A…车内相机,220B…车内麦克风,220C…就座传感器,230…外界信息检测部,230A…车外相机,230B…车外相机,230C…车外相机,230D…车外麦克风,240…提供部,242…假想影像生成部,242A…投影装置,242B…前窗,242C…左侧窗,242E…后视镜,242G…全息图投影装置,242H…触摸面板式显示器装置,242I…透射板型显示器,244…声音输出部,244A…扬声器,244B…扬声器,244C…扬声器,244D…扬声器,246…内容播放部,250…声音输入部,250A…歌唱用麦克风,260…假想影像选择部,270…内容选择部,280…存储部。

33页详细技术资料下载
上一篇:一种医用注射器针头装配设备
下一篇:语音识别系统和方法

网友询问留言

已有0条留言

还没有人留言评论。精彩留言会获得点赞!

精彩留言,会给你点赞!