// //
吳老師教學部落格: 21 二月 2016

2016年2月26日 星期五

公訓處Big Data加值應用課程分享

公訓處Big Data加值應用課程分享

台北市公訓處之邀,在一天六小時裡來談Big Data加值應用
因為時間短,所以能講得並不可能太深入,
時間不多,所以應用的方式,
就以大家比較熟悉的 EXCEL環境配合函數與VBA做加值應用,
處理大數據的應用能力已經漸漸變為平時工作的一部分,
如果不能適時地升級自己的專業技能,
用人工處理將無法處理這些大數據,
因此學習快速處理的自動化技巧,將成為辦公室應用的趨勢

參考資料
翟本喬大數據的理念與應用 2015.03.02
https://www.youtube.com/watch?v=OQQO08EX6TM(49:29)
結論:
真正的價值,是在後面怎麼寫出程式來分析這些數據

課程理念
根據維基百科:
大數據(英語:Big data或Megadata),或稱巨量資料、海量資料、大資料
指的是所涉及的資料量規模巨大到無法透過人工,在合理時間內達到擷取、管理、處理、並整理成為人類所能解讀的形式的資訊。
可用來察覺商業趨勢、判定研究品質、避免疾病擴散、打擊犯罪或測定即時交通路況等;這樣的用途正是大型資料集盛行的原因

維基百科定義
在一份2001年的研究與相關的演講中,麥塔集團(META Group,現為高德納)分析員道格·萊尼(Doug Laney)指出資料增長的挑戰和機遇有三個方向:
量(Volume,資料大小)
速(Velocity,資料輸入輸出的速度)
多變(Variety,多樣性),合稱「3V」或「3Vs」
另外,有機構在3V之外定義第4個V:真實性(Veracity)
大數據必須藉由計算機對資料進行統計、比對、解析方能得出客觀結果。
美國在2012年就開始著手大數據,歐巴馬更在同年投入2億美金在大數據的開發中,更強調大數據會是之後的未來石油。

何謂巨量資料 
Big Data資料特徵與趨勢
應用範例
RFID、感測裝置網路、天文學、大氣學、交通運輸、基因組學、生物學、大社會資料分析、網際網路檔案處理
製作網際網路搜尋引擎索引、通信記錄明細、軍事偵查、社群網路、通勤時間預測、醫療記錄、相片圖像和影像封存、電子商務等。
政府以巨量資料打擊與預防犯罪,強化國安
槓桿社群與公開性資料提升預測準確性

巨量資料應用的成功案例
Google – 流感趨勢預測
Google發現,某些搜尋關鍵字有助於追蹤流感疫情發展,彙總搜尋資料,提供近乎即時的全球流感疫情趨勢預測
Google曾在美國的九個地區做了測試,發現此技術比聯邦疾病控制和預防中心提前7到14天準確預測了流感爆發
阿里巴巴將消費者數據轉化為企業獲利,小額貸款無需抵押和擔保,直接實現了網路數據的價值。截至2013年,阿里小貸累計獲貸客戶數64.2萬家,累計放款1,722億元人民幣
電視新聞與巨量資料結合,2014年春運(36億人次),百度利用巨量分析觀察大陸過年時人類的遷移行為,並以易懂的視覺化呈現在人們眼前

注意
巨量資料5大觀念,挖出潛在新商機
資料數量要夠大、夠多,量比質更重要
找出「相關性」,而非因果關係
地理位置、情緒貼文、社群圖譜、看似無用的散漫紀錄,都是有用的
只要有巨量資料思惟,小公司也能靠創新的點子致勝
要小心資料獨裁,不要被巨量資料掌控
駕馭資料,發揮創意,做對關鍵決策,達成智能管理
出處:《大數據》牛津大學教授 麥爾荀伯格

Big Data海量資料的分析概說:
Big Data資料加值應用與相關範例
如何取得Big Data的方式?
 開放資料範例
  內政部實價登錄YAHOO股市資料
GOOGLE表單
  範例:GOOGLE試算表複選結果資料切割
如何處理與統計分析Big Data?
 EXCLE統計函數
  範例:黑名單篩選樂透彩中獎機率
樞紐分析表
  範例:銷貨系統分析
開放資料加值應用實例
  範例:實價登錄用EXCEL一鍵批次下載股市資料
 EXCLE VBA(與R語言比較)
 PowerPivot增益集
  海量資料的分析工具-PowerPivot實作演練
  視覺化數位儀表與報表–PowerView資料地圖實作

與大數據課程的經驗
超過20年的程式設計教學經驗(VBA、VB.NET、ASP.NET、JAVA、ANDROID、PHP等)
台北市公務人員訓練處:Big Data資料加值應用
新北市勞工大學:EXCEL VBA大數據自動化進階
東吳大學進修推廣部:EXCEL VBA 與資料庫雲端設計(初階與進階)
自強工業基金會:從Excel函數到VBA雲端巨量資料庫應用班

多年的實務與教學經驗所累積的課程範例,最短時間學會處理大數據,
以提高效率,正確決策。

預覽:


教學影音:


其他相關學習:

    教學論壇:
    https://groups.google.com/forum/#!forum/scu_excel_vba2_83

    與前幾期的課程雖然用的是相同的範例,但最大的不同在:
    1.除了解說建函數公式,並將之轉成自訂函數,把複雜的公式變簡單。
    2.如何將複雜的公式變成簡單的按鈕,按下按鈕就自動完成工作。

    內容主要分成:
    1.常用函數
    2.進階函數應用
    3.從函數到VBA設計
    4.如何自訂函數
    5.VBA程式設計入門
    6.如何錄製巨集與修改
    7.如何將大量資料轉存到資料庫
    8.如何讀取資料庫資料
    詳細目錄:http://goo.gl/eQptxx

    有講義與範例和完成的畫面公式與程式碼,
    只要按照每周的順序學習,學會EXCEL VBA自動化絕非難事,
    優點:
    1.可非線性學習:可按照自己最不熟的部分多次學習。
    2.可反覆學習:有疑問可以多次聽講,保證學的會。
    3.可攜帶學習:只要有瀏覽器就可以播放SWF檔,MAC電腦也沒問題。

    上課參考用書:
    看!就是比你早下班-50個ExcelVBA高手問題解決法
    作者:楊玉文  出版社:松崗
    出版日期:2011年02月15日  定價:550元

    課程理念:
    1.以循序漸進的方式, 透過詳細的說明和實用的Excel VBA範例, 逐步了解整個 VBA 的架構與輪廓,進而學習 VBA 變數、函式及邏輯的觀念, 即使沒有任何程式設計基礎, 也能自己親手撰寫 VBA 程序來提昇工作效率, 晉身職場 Excel 高手! 2.進而解說EXCEL與資料庫的結合,將EXCEL當成資料庫來使用,結合函數、VBA等更深入的功能,讓資料處理和分析的應用更上層樓。 3.將結合GOOGLE雲端試算表,教您如何將EXCEL函數雲端化與網路化。

    更多EXCEL VBA連結:
    01_EXCEL函數與VBA http://terry28853669.pixnet.net/blog/category/list/1384521
    02_EXCEL VBA自動化教學 http://terry28853669.pixnet.net/blog/category/list/1384524

    吳老師  105/2/15

    台北市公務人員訓練處,big data應用,big data定義,big data是什麼,大數據分析教學,excel數據分析,excel數據圖表,大數據應用實例,大數據應用案例,開放資料應用,open data應用