12个大数据项目
介紹一下,應(yīng)用較多的大數(shù)據(jù)項(xiàng)目:
1,離線數(shù)據(jù)處理:項(xiàng)目?jī)?nèi)容為通過(guò)對(duì)網(wǎng)站訪問(wèn)日志的采集和清洗,結(jié)合數(shù)據(jù)庫(kù)中的結(jié)構(gòu)化用戶數(shù)據(jù),統(tǒng)計(jì)并展示網(wǎng)站的PV、UV情況,以對(duì)網(wǎng)站的運(yùn)行情況進(jìn)行監(jiān)控。通過(guò)此項(xiàng)目,回顧并串聯(lián)前面講述的離線數(shù)據(jù)處理相關(guān)技術(shù),如:FIune、Sqoop、Hive、Spark等,了解和掌握PB級(jí)數(shù)據(jù)離線處理的一般過(guò)程和架構(gòu)。
2,流式數(shù)據(jù)處理:項(xiàng)目?jī)?nèi)容為通過(guò)對(duì)數(shù)據(jù)庫(kù)交易數(shù)據(jù)修改的實(shí)時(shí)同步,監(jiān)控網(wǎng)站實(shí)時(shí)交易情況,以提高網(wǎng)站交易情況監(jiān)控的時(shí)效性,降低網(wǎng)站運(yùn)行的風(fēng)險(xiǎn)。 通過(guò)此項(xiàng)目,回顧并串聯(lián)前面講述的實(shí)時(shí)數(shù)據(jù)處理相關(guān)技術(shù),如:kafka、Spark、Streaning和HBase等,了解和掌握實(shí)時(shí)數(shù)據(jù)處理的一般過(guò)程和架構(gòu)。
3,搜索系統(tǒng):項(xiàng)目?jī)?nèi)容,通過(guò)網(wǎng)站爬蟲(chóng)爬取網(wǎng)站數(shù)據(jù),然后基于KlastlcSeard和Klbana搭建一個(gè)完整的搜索系統(tǒng)。
4,系統(tǒng)運(yùn)行情況儀表盤(pán): 通過(guò)對(duì)網(wǎng)站訪問(wèn)日志的采集和清洗,結(jié)合數(shù)據(jù)庫(kù)中的結(jié)構(gòu)化用戶數(shù)據(jù),統(tǒng)計(jì)并展示網(wǎng)站的PV,UV情況,以對(duì)網(wǎng)站的運(yùn)行情況進(jìn)行監(jiān)控。通過(guò)此項(xiàng)目,回顧并串聯(lián)前面講述的離線數(shù)據(jù)處理相關(guān)技術(shù),如Flume,Sqoop,Hive,Spark等,掌握PB級(jí)數(shù)據(jù)離線處理的一般過(guò)程和架構(gòu)。
5,推薦系統(tǒng):項(xiàng)目?jī)?nèi)容,基于公開(kāi)數(shù)據(jù)庫(kù)的商品推薦,某大型互金公司產(chǎn)品推薦系統(tǒng)剖析, 通過(guò)對(duì)公司實(shí)際推薦項(xiàng)目的剖析和根據(jù)真實(shí)數(shù)據(jù)搭建推薦系統(tǒng)的實(shí)操演練,了解推薦系統(tǒng)的一般架構(gòu)和常用算法。
6, 實(shí)時(shí)交易監(jiān)控系統(tǒng) : 過(guò)對(duì)數(shù)據(jù)庫(kù)交易數(shù)據(jù)修改的實(shí)時(shí)同步,監(jiān)控網(wǎng)站實(shí)時(shí)交易情況,以提高網(wǎng)站交易情況監(jiān)控的時(shí)效性,降低網(wǎng)站運(yùn)行的風(fēng)險(xiǎn)。通過(guò)此項(xiàng)目,回顧并串聯(lián)前面講述的實(shí)時(shí)數(shù)據(jù)處理相關(guān)技術(shù),如Kafka,Spark Streaming和HBase等,掌握實(shí)時(shí)數(shù)據(jù)處理的一般過(guò)程和架構(gòu)。
7,推薦系統(tǒng)理論與實(shí)戰(zhàn): 講解推薦系統(tǒng)的相關(guān)背景,常用算法及通用架構(gòu);基于公開(kāi)數(shù)據(jù)集從零構(gòu)建一個(gè)電影推薦系統(tǒng)。通過(guò)對(duì)公司實(shí)際推薦項(xiàng)目的剖析和根據(jù)真實(shí)數(shù)據(jù)搭建推薦系統(tǒng)的實(shí)操演練,了解推薦系統(tǒng)的一般架構(gòu)和常用算法
8,數(shù)據(jù)倉(cāng)庫(kù)搭建理論與實(shí)戰(zhàn): 講解數(shù)據(jù)倉(cāng)庫(kù)搭建的方法論,常用建模理論;以互金公司數(shù)據(jù)倉(cāng)庫(kù)搭建場(chǎng)景作為切入,實(shí)例演示數(shù)據(jù)倉(cāng)庫(kù)搭建過(guò)程及技術(shù)架構(gòu)。
9,分布式業(yè)務(wù)監(jiān)控系統(tǒng): 講解業(yè)務(wù)監(jiān)控系統(tǒng)需求背景,基于大數(shù)據(jù)的技術(shù)方案;通過(guò)實(shí)例代碼搭建完整的業(yè)務(wù)監(jiān)控系統(tǒng)
10,基于ES的日志系統(tǒng) : 基于Flume,ElasticSearch等技術(shù)搭建系統(tǒng)日志收集與查詢系統(tǒng)。
11,信貸需求預(yù)測(cè)系統(tǒng): 以京東信貸需求預(yù)測(cè)競(jìng)賽為背景,實(shí)例講解數(shù)據(jù)挖掘項(xiàng)目中如何設(shè)計(jì)特征,模型基礎(chǔ),建模以及調(diào)參等。
12,用戶畫(huà)像系統(tǒng) : 講解用戶畫(huà)像系統(tǒng)的需求背景,基于大數(shù)據(jù)技術(shù)的解決方案;通過(guò)實(shí)例代碼演示用戶畫(huà)像系統(tǒng)的搭建。
?
————————————————
版權(quán)聲明:本文為CSDN博主「hyy1568786」的原創(chuàng)文章,遵循CC 4.0 BY-SA版權(quán)協(xié)議,轉(zhuǎn)載請(qǐng)附上原文出處鏈接及本聲明。
原文鏈接:https://blog.csdn.net/hyy1568786/article/details/106362727
總結(jié)
- 上一篇: jquery选中以什么开头的元素
- 下一篇: MySql学习之varchar类型