2016/11/23

chatbot meetup #1 筆記

chatbot meetup #1
http://chatbot.kktix.cc/events/meetup-01


Microsoft Bot Framework x Cognitive Service 快速打造智能聊天機器人
Eric：
平台的演進：PC＝》Web＝》Smartphone＝》Messaging
Messaging 是最新一代的平台
Bot 是一種在 Messaging 平台上開發的 App

人類花大量時間在聊天平台上聊天
Apple google amazon 他們開發的是 interface

Microsoft Bot Framework 提供SDK C# nodeJs
Bot Builder 做好bot
Bot Connector 發佈在聊天平台上
BotDirectory 曝光bot、bot列表

Microsoft Cognitive Services 提供電腦視覺 聽覺 語意分析等等的服務
(web api 形式)
Vision
image => 裡面有什麼、有人嗎、幾歲？男的還是女的、ocr
Speech
Speech <=> text
Language
LUIS.ai
Intent (function)
Entity (param)
輸入句子
輸出 Intent 的機率和標出 Entity
Function Currying

Knowledge
Search


Introduction to NLP for Chatbots
李昀樵 - 台大數位語音實驗室：
compose.ai
做了三個bot demo 平台能力
全台實價登錄
追劇吧
ubike小幫手

不需要寫code就可以做bot的平台
用UI拉決策樹

BOT 開發的重點
要記住 CONTEXT
各種參數的輸入是可以解讀的，沒有輸入就給預設值、或者去問USER

Part-of-speech(POS)：
把一句話的每個字的詞性抓出來

Infomation Extration(IE)
取出一個句子裡的參數

Dialog
輸出對話回應

中文斷詞
Jieba 結巴分詞（python)
OOV（系統沒看過的詞）
中研院斷詞系統 http://ckipsvr.iis.sinica.edu.tw/

Named entity recognition(NER)
辨識專有名詞
wikipedia 是最大名詞集合
Google NLP also return wikipedia_url

Stanford NLP

Intent Parsing
Adapt https://github.com/MycroftAi/adapt)
Stanford NLP

API
api.ai
wit.ai
Microsoft LUIS

Q&A 系統
對輸入句子做分群 然後回答對應的輸出
word embedding features
Facebook facetext


Messenger Platform's New Opportunities and Insights
Po Cheng Chu 蝴蝶 Botimize：
Customer Service
Intention Extraction
luis.ai
api.ai
wit.ai
Human-Bot Hybrid
80% by bot
20% by human

Bots
Travelflan
Taobao

E-Commerce
Payment
Stripe
Paypal
Token

Account Linking

Checkout and pay in webview

Bots
Domino's Pizza

Subscription
Stadard Messaging
24小時打一次
Subscription Messaging
不能發廣告訊息

Bots
CNN
TechCrunch

Avatar
Personality

NPC-like

Bots
Hearthstone
D. Trump Bot

Match-Making
Platform
匿名聊天
民調

Human Computation
工人智慧

Bots
Her/Him
Sensay
Swelly

Game
Webview

Interaction Focused

Bots
Space Adventure
Murder Mystery Game

Utility / Micro-app
Mention
@bot 去叫 bot 做事

Account linking

Bots
Polly.ai （做民調）
Gif

Facebook Messenger SDK 1.3
Link with Parameter
在 webview 上的操作做到一半
跳到 chatbot 上繼續做

List Template
Checkbox Plugin


Zeroth.AI

怎麼做AI？
Human Computation(工人智慧)
工人智慧造人工智慧

Travelflan
旅遊顧問

Designjar
收集資料

http://www.botimize.io/
bot界的GA



如何透過 Golang 與 Heroku 來一件部署 臉書機器人與 Line
Evan Lin：
GO 超棒
ruby 很快樂 但超慢
C 很快

python: 戰tab/space
GO 存檔就自動排版
GO 寫 test 很方便

PetNeedMe
CodeTengu


Facebook 不想讓你知道的事
Howard Chang
Her/Him & Her/Her 作者

Messenger Platform 上可以用的 PS_ID
FB login 登入的ID是 FB_ID

1. 透過 profile_pic 的檔名，兩邊的API的頭貼其實是一樣的路徑
2. 在 FB login 時加入 query string psid=#{psid}
3. 用 message_id 直接作messenger外掛可以拿到 message_id
可以傳貼圖 也可以傳任何訊息



Aloha.AI
customer service
QA bot
預測接下來user想問的三個問題


卡米狗 line bot
 郭佳甯
  卡米狗超棒der 還沒加入卡米教的趕快加入
作者： 卡卡米 於 凌晨12:26 2 個回應
標籤：

2016/10/17

chrome extension - long finger 瀏覽器擴充功能開發紀錄

注意：本文中有許多連結必須手動複製貼上到網址列上才能正確開啟(chrome 開頭的那些網址)

long finger 簡介

long finger 安裝網址 : https://chrome.google.com/webstore/detail/long-finger/aammiagfeadjchafpeeiacggolmfnmmo

點子以及圖片資源是由 Leggy 提供，感謝 Leggy。

這是一個會把滑鼠游標從食指改成中指的擴充功能。他沒什麼用，唯一的作用應該是舒壓吧。實作起來相當容易，程式碼也足夠短，很適合作為一個練手的作品。


擴充功能簡介


chrome 擴充功能入口：chrome://extensions/

在這個頁面可以看見目前安裝的所有擴充功能。如果只是單純嘗試開發，還沒打算上架的話，在這裡有一個「開發人員模式」的按鈕，先把他打勾。


這樣就可以安裝還沒發佈到 google 商店的擴充功能。一個擴充功能的核心檔案是manifest.json，我們可以透過特定網址去找到任一擴充功能的 manifest.json，網址格式為：

chrome-extension://擴充功能ID/manifest.json

舉例來說，在安裝好 long finger 之後開啟網址：
chrome-extension://aammiagfeadjchafpeeiacggolmfnmmo/manifest.json
會看到：
{
   "browser_action": {
      "default_icon": "longFinger.png"
   },
   "content_scripts": [ {
      "css": [ "longFinger.css" ],
      "js": [ "longFinger.js" ],
      "matches": [ "http://*/*", "https://*/*" ]
   } ],
   "description": "This extension change cursor index finger to long finger.",
   "key": "MIIBIjANBgkqhkiG9w0BAQEFAAOCAQ8AMIIBCgKCAQEAlWMwgzcpj1/kt1KbNVUbvQRth2wvV2WX9RKRxJ1aWAsovQjEWKytM2pkbZ2xbm/V9tSNODZW438PfS46IV12iE3aTIc0mbHDML3ScJZeBfKs8dFIt0nxWERpIVctS2xQIUPS4mfKsWdk6LckPuHQmFyz13hR13hbUoqz7DkCqWv3Sz5sbDZbqKBg9GZliWUjeafzOTjkT3rO5khVqmT8NcfJ0TYAe1sJ4u2PpHByC8+dT0iQsE6xEz2/gG66HwnpU4HibcyAujfAy4fcgOmWfL8kcm4HcvFqJ+C8s3jtlUxm8o6rzrNtw+w30r5NLLdC+GcSjw3Z9zeF4U+3swa7mQIDAQAB",
   "manifest_version": 2,
   "name": "long finger",
   "update_url": "https://clients2.google.com/service/update2/crx",
   "version": "3.0"
} 
manifest.json 是整個擴充功能的起始點，透過 manifest.json 的設定，你可以觸發其他的程式檔。我們可以看見這裡有幾個重要的檔案連結：

 chrome-extension://aammiagfeadjchafpeeiacggolmfnmmo/longFinger.css
chrome-extension://aammiagfeadjchafpeeiacggolmfnmmo/longFinger.js

 這兩個檔案落在 content scripts 中。content_scripts 有三個參數，分別是 matchs、css、js。當使用者開啟網頁時，若網址符合 matches 的規則，就會將 css 跟 js 附加在該網頁上。


long finger 實作


讓我們把注意力放在 longFinger.css 和 longFinger.js 上。

先來看看 longFinger.css：
a{
 cursor: url("http://etrex.tw/a/flippers3.gif"),auto !important;
}
button{
 cursor: url("http://etrex.tw/a/flippers3.gif"),auto !important;
}
.longFinger{
 cursor: url("http://etrex.tw/a/flippers3.gif"),auto !important; 
}
longFinger.css 上寫的是只要是 a 或 button 或是任何帶有 longFinger class 的 html tag 就會把游標改為 http://etrex.tw/a/flippers3.gif。

接下來看看 longFinger.js：
document.querySelector('body').addEventListener("mousemove", function(e){
 var target = e.target;
 var cursor = window.getComputedStyle(target,null).getPropertyValue("cursor");
 if(cursor == "pointer"){
  target.classList.add("longFinger");
 }
});
longFinger.js 寫著，當滑鼠在整個網頁上移動時，檢查目前游標指著的元素(element)是否造成游標為食指形狀，如果是的話，就幫這個元素加上 longFinger class。

這樣就大功告成了！


擴充功能測試


我已將 long finger 放在 github 上：https://github.com/etrex/long-finger。你可以在 github 上面看到資料夾結構是由一個資料夾 long finger 下帶著四個檔案所組成：manifest.json、longFinger.js、longFinger.css、longFinger.png。

只要下載long finger 資料夾，並且在 chrome://extensions/ 選擇載入未封裝的擴充功能，然後選擇 long finger 資料夾，就可以完成擴充功能的安裝。
作者： 卡卡米 於 凌晨12:51 0 個回應
標籤：

2016/10/7

用 C# 做一個 file upload proxy server

實現功能

讓 js 用 ajax 的方式傳檔案到跨網域的 server 上，而不會遇到跨網域問題。

核心程式(C#)


using System;
using System.Collections.Generic;
using System.Collections.Specialized;
using System.IO;
using System.Linq;
using System.Net.Http;
using System.Text;
using System.Web;

namespace Tools
{
    public class HttpCaller
    {
        public static string MultipartForm(string url, HttpRequestBase request)
        {
            var ignoreHeader = new string[] { "Content-Length", "Content-Type", "Host", "Referer" };
            string result = string.Empty;
            var mediaType = "";
            try
            {
                using (HttpClient client = new HttpClient())
                {
                    client.DefaultRequestHeaders.Clear();
                    foreach (var key in request.Headers.AllKeys)
                    {
                        if (key.Equals("Content-Type"))
                        {
                            mediaType = request.Headers[key];
                        }
                        if (ignoreHeader.Contains(key))
                        {
                            continue;
                        }
                        client.DefaultRequestHeaders.Add(key, request.Headers[key]);
                    }
                    HttpRequestMessage message = new HttpRequestMessage(HttpMethod.Post, url);
                    message.Content = new ByteArrayContent(StreamToBytes(request.InputStream));
                    message.Content.Headers.Remove("Content-Type");
                    message.Content.Headers.Add("Content-Type", mediaType);
                    result = client.SendAsync(message).Result.Content.ReadAsStringAsync().Result;
                }
            }
            catch (Exception ex)
            {
                result = ex.Message;
            }
            return result;
        }

        private static byte[] StreamToBytes(Stream stream)
        {
            byte[] bytes = new byte[stream.Length];
            stream.Read(bytes, 0, bytes.Length);
            stream.Seek(0, SeekOrigin.Begin);
            return bytes;
        }
    }
}

使用方法(C# ASP.NET MVC 專案)


public ActionResult upload()
{
   var targetUrl = Request.Form["targetUrl"];
   var json = HttpCaller.MultipartForm(targetUrl, Request);
   return Content(json);
}

使用方法(JS)


function uploadRequest(targetUrl, requestObject, files, callback) {
    var formData = new FormData();
    for (var key in requestObject) {
        formData.append(key, requestObject[key]);
    }
    for (var i = 0 ; i < files.length ; i++){
        formData.append("file" + (i+1), files[i]);
    }
    formData.append("targetUrl", targetUrl);

    var request = new XMLHttpRequest();
    request.open("POST", "upload");
    request.onload = function (e) {
        var response = e.target.response;
        callback(response);
    };
    request.send(formData);
}
作者： 卡卡米 於 中午12:02 0 個回應
標籤：

2016/5/16

Deep Learning 筆記

IEEE Big Data Congress 2016 (海量資料國際研討會台北場)春季學校和主題演講
https://uknowiknow.com/courses/1a319e3ac7865c57

透過視覺化Neuron來觀察和學習 Deep Learning 的運作
http://playground.tensorflow.org/

每一個Neuron都是在做輸入x 輸出 y
y = g(wx + b)  (y 跟 b 是純量，w 跟 x 是向量，g 是 Activation Function)

除了 Input Layer 和 Output Layer ，中間的 Layer 都叫作 Hidden Layer

給預期的Output，用 Gradient Descent 演算法去更新每一個 Neuron 的 w 跟 b ，目標是使得 Loss 最小。

Loss = (預期的Output - Output Layer)^2

Mini Batch 是每次計算 Loss 時不使用全部的Training Data，而是只使用部分的 Training Data

使用 Mini Batch 可以避免掉入一些 Local Minimum

Back Propagation 是更快的微分技術

Case Study：手寫數字辨識
題目描述：給一張手寫數字(一位數)的點陣圖，輸出對應的數字
網路結構：在 Network 上的 Input Layer 是所有 pixel (w*h個 Neuron )，輸出是10個 Neuron ，分別代表手寫數字為0~9的機率，當輸出向量代表 0 的 Neuron 輸出值最大時，代表辨識結果為0。

圍棋：
給盤勢(19*19)，輸出下一步下子位置(19*19)

利用多個是非題( Neuron )可以實作出選擇題

Network 結構目前沒有辦法靠學習來自動生成

Universality Theorem
Deep 比較好還是 Fat 比較好？
Fat ＋Short v.s. Thin + Tall
答案是 Thin + Tall 勝出

Deep network 隱含模組化( Modularization )的概念
一個選擇題被拆解成幾個是非題( Hidden Layer )之後再合成
Deep 之後需要的 Training Data 變少



有哪些調整方法可以讓 Training Data 的 Loss 降低：
Adagrad：調整 Learning Rate，讓每一個參數(w,b)有自己的Learning Rate

Momentum：加入移動的慣性到參數的update上

Corss Entropy：換掉兩個向量的距離估計函數，建議搭配 Softmax 使用

ReLU(Rectified Linear Unit)：線型的 Activation Function 才不會在多層次的時候造成計算微分時因為多層次的關係被遞減。

Maxout(自動生成 Activation Function)，用多個 Neuron 取最大的輸出去組成一個 Neuron

Residual Network：跳過2個 Layer，直接連接到後面的 Layer
Highway Network：跳過N個 Layer


有哪些調整方法可以讓 Testing Data 的 Loss 降低(對抗Overfitting)：

更多的 Data
生成更多的 Data (把原圖做一些旋轉)
生成更多的 Data (加入雜訊)

Early Stopping：把手上的 Training Data 拿一些做驗證，當驗證 Data 的表現沒有再進步時，就停止

Weight Decay：使得 Weight 的大小越小越好

L2 Regularization：一種 Weight Decay 方法，把 Weight 的長度加入 Loss Function

Ensemble：嘗試各種Network Structure，再把結果合起來。

Dropout：在每一次遞迴的時候都把 Network 上的 Neuron丟掉一部份，等同於Ensemble的終極版。

Recurrent Neural Network (RNN)：有記憶的NN
每一個 Neuron 對上一個輸入資料的輸出被保留在 Hidden Layer 上。或者說 Neuron 都跟上一次的自己建立連線。

Bidirectional RNN：時間逆序＋時間順序

LSTM：在 Neuron 跟自己建立關聯之前加上3個Gate：Input  Gate，Output  Gate，Forget Gate

BPTT：RNN的計算方法

CASE :
Slot Filling：輸入一個 word，輸出這個 word 是屬於哪一個 Slot？
Slot：dest(目的地)，time(時間)，other
input : arrive Taipei on November 2nd
理想中的output : other dest other time time

word 怎麼表示成向量？
1-of-N Encoding：{apple,bag,cat,dog,elephant}
apple = [1 0 0 0 0]
bag = [0 1 0 0 0]
cat = [0 0 1 0 0]
dog = [0 0 0 1 0]
elephant = [0 0 0 0 1]

word embedding：
為了不要讓word的向量太多維度，作降維的方法是把所有的word放到一個n-D空間上，語意上越接近的字就放在一起。

skip-gram text model：
Windows - Microsoft + Google = Android

Attention-based Model：讓機器可以回答問題
用DNN/RNN去選擇該讀取哪些資料，作為一個新的input，直到他找到答案。

Deep Reinforcement Learning
更難的問題


參考資料：

線上觀察deep learning的運作
http://playground.tensorflow.org/

Tensorflow 是一個用C++跟Python實作的deep learning library
用起來跟numpy有90%像

SyntaxNet

OpenAI

Parallel Game Engine

電腦視覺
作者： 卡卡米 於 凌晨2:09 0 個回應

2016/5/5

TeSA「成長駭客」台灣駭客導讀會 筆記

活動連結：https://tesa.waca.ec/product/detail/3967

​Q：怎麼確定PMF？

 小黑：確認使用情境：確定目標消費者在什麼時間什麼地點去解決什麼問題？真的有這個情景嗎？

 貝克菜：已有產品：去觀察競品的文案、競品的客群。去人肉你的客群，觀察客群的特徵。
沒有產品：先找受眾，再找對應的產品。打3000元廣告去看效果，效果差表示產品不對。

 酸哥：發傳單超棒的。還有簡訊，想檔都檔不掉。不要受限於網路。

Q：怎麼抓到一開始的客戶，一開始的資源要怎麼投入？

 酸哥：客群是用測試來的，不是用刻板印象。測試工具不一定準，你們真的相信民調嗎？

 貝克菜：看見自己需要的問題並且解決問題，自己沒有在用的情況下，觀察有在用的人提出的問題。

 小黑：論壇、問答網站，那裡的人有一堆的問題，你的東西到底要怎麼用？去問答網站上回應，還可以順便做SEO。在行銷時盡量獲取準客戶的聯絡方式。你不會想要按補習班的讚，但是你會按「看OOO學英文」的讚。開這種粉絲團，再辦實體活動，取得會員名單後瘋狂轟炸他們。

Q：當自己無法成為意見領袖的時候，該怎麼選擇適當的意見領袖來合作？

 酸哥：所有的行銷工具都有他的用處，200個素人可以贏過1個A級部落客。可以賺SEO跟分散風險。先想好自己產品定位，再去找合適的人。不要看到別人做什麼，就跟著做什麼。很多代言人平常根本不用那些產品，那樣的行銷會有用嗎？目標放清楚，要找對人。不要找硬是要學去賣化妝品。網路正妹有兩種：男生會看的正妹，跟女生會看的正妹，不要找錯人了。

 貝克菜：粉絲多不一定有效，你確定他們的粉絲符合自己產品的性質嗎？很多時候素人比名模有效。應該多研究粉絲的輪廓，選擇那些粉絲跟產品的受眾輪廓接近的意見領袖。多收集2000～3000人追蹤者的素人，直接送產品給他們。

 小黑：部落客行銷對SEO的幫助很大，你可以在GOOGLE搜尋競品、產品、關鍵字，排名在前面的Blog，就是適合的對象。現在有很多騙吃騙喝部落客，怎麼判斷？流量高但是沒互動的不要找，我們要這群部落客來當我的第一批客人，大部分的部落客其實是早期使用者，可以連帶進行早期使用者開發。

Q：怎麼引爆病毒行銷？

 小黑：遊戲化、跟生活有關，星座文最會被分享，算得準會被分享，但是算不準也會被分享。

 貝克菜：先有營業額再說，pass。

 酸哥：網路4G法則 (Girl、Game、Gambling、Gift)。 賭：問卷調查，選到人多的那邊的人群中抽出一些獎項。

Q：負面行銷、bug行銷、標錯價格行銷可以用來操作嗎？

 小黑：大多數的負面行銷是不小心的，不建議操作這個，標錯價格行銷買不到長久的顧客，超低價行銷可以視為買新客人的一種方式。

 貝克菜：這種東西不見得會成功，所以不會浪費時間去試。

 酸哥：負面行銷的關鍵是在危機公關的處理方式，發生事情時表示道歉和賠償，重點是誠信要保住。負面的事情一定會碰到，不要主動去操作，但是遇到時要會處理。

Q：怎麼挑選人才，一個成長駭客應該具備什麼？

 貝克菜：勇氣、多嘗試新事物的心態，不需要精通，但是要懂很多東西。可以丟一個很難的問題給他，看他處理問題的方式，需要一個願意一直找答案的人。

Q：成長駭客跟T型人才的差別，技術優先還是行銷優先？

 貝克菜：要有程式的概念，知道哪些事情是程式能完成的，要懂消費者心理學，看數據才懂背後的意義，能懂人性才是最重要的。

Q：如何提升客戶終身價值(retention)？

 小黑：設計永續使用情境，而不是做一些花俏手法。

 貝克菜：根據資料計算客戶什麼時候需要購買下一次，就在那個時候去打他，即時提醒很重要。我
不喜歡削價促銷的手法。對於非消耗品的操作法是：因為你只會買一次，所以我跟你保證，如果你東西壞掉，就讓你用半價購買新品。

 酸哥：kkbox 讓你可以更快地買演唱會的票。你的歌單都在kkbox上，轉換到另一個平台很難。餐廳定時換菜單，建立制約。為什麼大家在造節？為什麼情人節就是要送禮？建立制約。這些都是延續產品時間的策略。

Q：最重要需要最先優化三個項目的是什麼？

 貝克菜：觀察員工平常都在幹嘛，看看那些重複繁瑣的事情，想辦法優化流程。如果有1000個人打電話來問同一個問題，你就應該把這個寫在網站上重要的地方。任何一個地方都可以優化，這需要一些觀察力跟敏銳度。

 酸哥：產品、財務、法務很重要。如果你是為了創業而創業，那你就可以出去不用聽了。重點是你一定要知道自己在幹嘛。

 小黑：你要關注平均會員獲取成本、平均訂單獲取成本，成本控制好就可以一直丟廣告，最後是如何提高會員的終身價值。

作者： 卡卡米 於 凌晨12:19 0 個回應
訂閱： 文章 (Atom)