笔下文学网

手机浏览器扫描二维码访问

数据给ai“供能”的背后,还有这些关键问题(第1页)

咱们前面聊了数据是AI的“粮食”,没数据AI就玩不转,但光有粮食还不够——就像咱们做饭得考虑米新不新鲜、会不会浪费,AI用数据也得解决“数据从哪儿来”“数据干不干净”“能不能随便用”这些问题。要是这些问题没处理好,就算有再多数据,AI也可能“吃坏肚子”,甚至闯祸。接下来咱们就接着唠,看看数据给AI“供能”的背后,还有哪些不得不说的关键事儿。

一、数据从哪儿来?AI的“粮食”不是天上掉的

很多人可能觉得“AI用的数据,随便找一找就有”,但其实不是——要收集到足够多、足够相关的数据,可不是件容易事儿,得靠不同的“渠道”去“找米”,而且每个渠道都有自己的门道。

最常见的一种渠道,是咱们“主动给的”。比如你用社交软件发朋友圈、发评论,用购物APP下单、收藏商品,用导航软件查路线、记常用地址,这些行为都会产生数据,而平台会把这些数据收集起来,用来训练AI。就像你在外卖平台点了几次奶茶,平台收集到“你爱喝三分糖、去冰的奶茶”这个数据,AI就能给你推荐同类型的新品;你在短视频APP上总给宠物视频点赞,平台收集到这个数据,AI就会多推宠物内容给你。这些数据都是咱们在使用软件时,不知不觉“贡献”出去的,也是AI数据的重要来源。

还有一种渠道,是“专业团队专门采的”。比如要做一个能识别农作物病虫害的AI,光靠用户上传的照片不够——得有农业领域的团队,去田间地头拍不同作物(小麦、水稻、玉米)、不同病虫害(蚜虫、白粉病、锈病)的照片,而且得拍清楚病变部位、不同发病阶段的样子,还得标注好“这是小麦蚜虫病”“这是水稻白粉病”。这种数据专业性强,要求高,不能随便凑数,得花大量时间和人力去采集。之前有个做医疗AI的团队,为了训练AI识别肺癌,花了3年时间,从全国几十家医院收集了十几万张肺部CT影像,还得让医生一张张标注“这是良性结节”“这是早期肺癌”,可见多不容易。

另外,还有“公开数据集”可以用。行业里有些机构会整理好数据,免费或低价开放给大家用,比如咱们之前提到的ImageNet,还有用于自然语言处理的“中文维基百科数据集”、用于语音识别的“Common Voice数据集”。这些数据集就像“公共粮仓”,AI开发者不用自己从头收集,能省不少事。但这类数据集也有缺点——可能不够“贴合具体需求”,比如公开的语音数据集大多是标准普通话,要是想做一个针对某地方言的语音AI,还得自己额外收集方言数据。

总之,AI的“粮食”不是天上掉的,要么是咱们用户在使用中“贡献”的,要么是专业团队辛苦采集的,要么是从公开渠道获取后再加工的。每一份数据背后,都有不少人力和时间的投入。

二、数据得“干净”:不然AI会“学歪”

咱们做饭的时候,米要是有虫、有石子,得先淘干净才能煮,不然煮出来的饭没法吃;AI用数据也一样,得先把数据“洗干净”,要是数据里有错误、有杂质,AI学了之后就会“学歪”,做事情出错。

啥是“不干净”的数据?比如数据里有“错误标注”——本来是猫的图片,却标成了狗;本来是“用户不喜欢吃辣”的记录,却标成了“喜欢吃辣”。AI学了这些错数据,就会跟着犯错:看到猫的图片,会当成狗认;给不喜欢吃辣的用户,推荐超辣的火锅。

还有一种是“重复数据”——比如同一张猫的图片,在数据集中出现了100次。AI学的时候,会反复学这张图,误以为“猫就长这样”,等遇到其他样子的猫(比如无毛猫、三花猫),就认不出来了。这就像咱们学认字,要是只反复写同一个字的一种写法,遇到行书、草书的写法,就不认识了。

还有“偏见数据”,这个更麻烦。比如要做一个“招聘AI”,用来筛选简历,结果收集的数据里,大部分“优秀员工”的简历都是男性,女性简历很少,而且标注的时候,还把“女性”和“不适合加班”“不稳定”这些标签绑在一起。AI学了这种数据,就会产生“偏见”,筛选简历时会优先选男性,甚至直接把女性简历筛掉,这就造成了性别歧视,肯定是不行的。

之前国外就发生过这样的事:某公司用AI筛选求职者,结果发现AI对女性求职者很不友好,后来查原因,才发现训练数据里,过去十年录用的员工中男性占比很高,数据本身就有偏见,AI自然就“学歪”了。最后公司只能停用这个AI,重新清理数据。

所以,数据收集来之后,必须得“清洗”:先把重复的数据删掉,再把错误标注的数据改对,最后还要检查有没有偏见,尽量让数据更公平、更准确。这一步就像咱们做饭前淘洗米、挑拣菜,虽然麻烦,但必不可少——只有“干净”的数据,才能让AI学好,做事情不出错、不跑偏。

小主,这个章节后面还有哦,请点击下一页继续阅读,后面更精彩!

三、数据不能随便用:得保护“个人隐私”

咱们前面说,很多数据是用户“贡献”的,比如聊天记录、购物记录、定位信息,这些数据里藏着咱们的“个人隐私”——要是随便用,很可能会泄露隐私,比如有人用AI分析你的聊天记录,知道你家里的情况;用你的定位数据,知道你每天去哪儿、住在哪儿。所以,AI用数据的时候,必须得守规矩,保护好个人隐私,不能“乱用粮食”。

现在行业里有个很重要的原则,叫“数据匿名化”——就是把数据里能识别出“你是谁”的信息去掉。比如你的外卖订单数据,会把你的真实姓名、手机号、详细住址换成一串代码,只留下“某用户在某天点了一份麻辣烫”这样的信息。这样AI能学到“有人喜欢吃麻辣烫”,却不知道这个人是你,就不会泄露你的隐私。

还有“数据授权”——平台要收集你的数据,得先告诉你“要收集什么数据”“用来做什么”,你同意了才能收集。比如你第一次用某APP,会弹出一个“隐私协议”,里面写着“我们会收集你的位置信息,用于为你推荐附近的服务”,你点了“同意”,平台才能收集你的位置数据;要是你不同意,平台就不能收集。这就像别人要借你的东西,得先问你同不同意,不能随便拿。

热门小说推荐
清穿之康熙柔妃

清穿之康熙柔妃

沁柔穿到清朝,于康熙十年入宫,那年她十六岁。嫔位、妃位、贵妃位,她一步步地爬了上去。......

未来之制药师

未来之制药师

附:【本作品来自互联网,本人不做任何负责】内容版权归作者所有!=================书名:未来之制药师作者:姜太婆钓猫文案沐之言一朝重生到千年后,发现自己成了一个被养父母用来圈自己亲爹妈遗产的工具,正在他茫然无措之时,忽然又发现自己的身体里竟然多了一个制药系统。为了获得重回地球的机会,他气沉丹田决定练练练,一定要早日将这个...

总攻之守护战记

总攻之守护战记

星际文,每个被守护者都会在成年之后开启自己的守护位置,一般是一个,优秀的是两个位置或者更多。被守护者会因为自己的天赋跟资质不同,提供给守护不同等级的攻击防御或者回复等等加成。被守护者召唤守护,守护属于灵体,但是触感与肉体基本相同。主角林云溪在男神选择了他人之后心境大乱,没有开启自己的守护。回到家中却在一夜之间连续打开了两个守护位置,甚至其中一个守护还是与自己没有血缘关系的大哥!最重要的是林云溪的守护特质是需要用情欲催动,他与守护之间的交互需要通过亲昵或者性交来完成。总结:星际异想肉文,小攻外表根正苗红优秀军校生,内里黄暴色情欲望强烈。总攻强受,无双性,不大肚产奶,可能会试管生子之类的。受都是不同种类的强受。...

仙凡分界

仙凡分界

少年与老狗,锈剑一葫酒。\n独守破庙六年,自己竟是高手?\n剑神唯一传人,整日摆烂求偶。\n凭借一己之力,将修真界搅的乌烟瘴气。\n少年陆同风,罕见纯阳血脉,骑狗扛剑勇闯修真界。\n师父是焚天剑神,他是纯阳贱仙……真是师门不幸啊!...

严老师的小野狗

严老师的小野狗

严老师的小野狗小说全文番外_陶振杰严老师严老师的小野狗,还在为找不到想看的类型小说发愁吗?还在为找不到广播剧,动漫,电影,韩剧,动画片,苦恼吗? 找书机器人:可以找海棠,可以找废文,可以找长佩,可以找书耽,可以找作者,可以找小说名,可以找言情,可以找百合,可以找耽美…… 找剧机器人:可以找电视剧,可以找广播剧,可以找综艺,可以找电影,可以找动画片,可以找动漫,可以找韩剧,还可以找一点漫画 知乎机器人,专门找知乎上的小说,发链接,秒发格式 买不了吃亏,买不了上当,买来的是各种文! 如果想要体验可以加758875922...

名侦探世界的武者

名侦探世界的武者

我叫星野空,姐姐宫子,妹妹日向表哥兼一,表姐穗香邻居阿笠博士,高中同学小埋……工藤新一:华森啊,你说当今天下,谁可称名侦探?星野空:毛利大叔?工藤新一:噗,那个只会抓狗找猫,调查外遇的大叔?充其量就是个三流侦探。星野空:服部平次?工藤新一:那是谁?没听说过,连名气都没有,怎么会是名侦探?星野空:茂木遥史、枪田郁美?工藤新一:此二人确实成名已久,但他们破掉的案子不及我的二分之一,算是一流侦探吧。星野空:难道是我?工藤新一:咳咳,你充其量也就跟大叔五五开啊!星野空:呃……那个名侦探该不会就是你自己吧?工藤新一:不错,我就是名侦探!清除罪恶,还原真相,哪怕遭受黑暗打击,我也一样照亮世间……阿空,快来!...