天猫大数据总结1
在三月份的時候得知了天貓的比賽,因為是第一屆,因此自己知道得也比較晚,組隊的時候很多小伙伴都已經組隊了,因此也就一個人組隊了。辛辛苦苦熬到了第二季的最后
一個月,學到了很多,也明白了很多自己在算法方面的不足。看最近前十名的同學已經揭曉了,很佩服他們,也從他們的采訪中中了解到他們的算法,因此也對自己不熟悉的部分進行學習,對自己所做過的工作進行總結
 
首先再回顧一下比賽的題目:
 在天貓,每天都會有數千萬的用戶通過品牌發現自己喜歡的商品,品牌是聯接消費者與商品最重要的紐帶。本屆賽題的任務就是根據用戶4個月在天貓的行為日志,建立用戶的品牌偏好,并預測他們在將來一個月內對品牌下商品的購買行為。 
我們會開放如下數據類型:
| user_id | 用戶標記 | 抽樣&字段加密 | 
| Time | 行為時間 | 精度到天級別&隱藏年份 | 
| action_type | 用戶對品牌的行為類型 | 包括點擊、購買、加入購物車、收藏4種行為 (點擊:0 購買:1 收藏:2 購物車:3) | 
| brand_id | 品牌數字ID | 抽樣&字段加密 | 
用戶對任意商品的行為都會映射為一行數據。其中所有商品ID都已匯總為商品對應的品牌ID。用戶和品牌都分別做了一定程度的數據抽樣,且數字ID都做了加密。所有行為的時間都精確到天級別(隱藏年份)。
第二賽季和第一賽季的格式都是一樣的,只是在數據量上更大了一些:Season 2賽季數據
1)??數據獲取方式: 
 ?????參賽者只能登陸阿里巴巴天池集群獲取數據,且數據不能下載,所有數據分析,計算,提交評分都將在天池集群上完成。登陸天池集群方法,請留
 ?????意后續的指導文檔和郵件通知。 
 2)??數據說明: 
 ?????提供的數據量,涉及千萬級天貓用戶,萬級天貓品牌,時間跨度4個月的行為記錄。 
 ?????提供的訓練數據在天池集群的表t_alibaba_bigdata_user_brand_total_1中,字段分別為:user_id,brand_id, type, visit_datetime。如圖所示 
?????用戶4種行為類型(Type)對應代碼分別為: 
 ?????點擊:0;購買:1;收藏:2;購物車:3 
 3)??提交評分方式: 
 ?????參賽者完成用戶品牌偏好預測后,需要將結果放入指定格式的數據表(非分區表)中,要求結果表名為:t_tmall_add_user_brand_predict_dh,
 ?????包含user_id和brand兩列。其中brand字段為預測的偏好品牌ID,多個品牌之間用逗號(",")分隔。 
 ?????例如: 
主要操作在阿里自己的天池上,上面搭載ODPS平臺,可以像sql語言一樣操作數據表,同時有MAP-Reduce可以完成一些分布式運算,和hadoop有類似之處,還有自帶的一些xlab工具,已經封裝了一個功能,比如對表數據進行LR和隨機森林的運算都可以直接通過相應的按鈕和配置參數完成
 
其實對我而言,參加比賽對于結果還是不太在意的,但是阿里的賽制很有特色,他不是扔出來一個題目就結束了,比賽持續了四個月,在這四個月里,雖然也有很多別的重要的事情,但是由于淘汰賽制,一直督促自己學習,雖然不是這個相關專業,但是學會了推薦系統的一些基礎算法
為了寫出更簡潔的代碼,更專注于算法而非語言本身,學習了python
為了了解更多的算法,看完了好幾本推薦算法相關的書籍,雖然名次并不高,但是我想我已經贏了!
之后就開始總結我學到的一些內容,和大家分享
 
 
總結
 
                            
                        - 上一篇: 【无标题】BIGEMAP离线数据包网盘下
- 下一篇: C++学习笔记25——结构体的定义和使用
