Proxy Cache
#
用途說明此插件會根據插件設定的狀態碼、內容類型以及請求方法暫存回應。它可根據一個用戶或一個 API 做快取。在資料保存一段時間之後,會再次從源頭取得並暫存資訊。
#
欄位配置說明變數 | 類型 | 預設值 | 說明 | 必填 |
---|---|---|---|---|
response_code | array of integer | [200, 301, 404] | 根據服務回應的狀態碼,決定是否暫存回應。 可以設定的狀態碼範圍由 100 至 900。 | V |
request_method | array of string | ["GET", "HEAD"] | 根據傳送請求時的方法,決定是否暫存回應。 | V |
content_type | array of string | ["text/plain", "application/json"] | 根據服務回應的內容類型,決定是否暫存回應。 要注意的是此項目只接受完全符合的值。 舉例來說,如果服務預期會接收到 application/json; charset=utf-8 這個類型的內容,而設定並沒有跟上述類型一模一樣時,則會收到 Bypass 的快取狀態。 | V |
vary_headers | array of string | 快取會考慮的相關標頭。 如未設定,則沒有任何標頭會被考慮。 | ||
vary_query_params | array of string | 快取會考慮的相關查詢參數。 如未設定,則所有參數都會被考慮。 | ||
cache_ttl | integer | 300 | 快取存活時間(單位為秒)。 填入的值要大於 0。 | |
cache_control | boolean | false | 請參考 RFC7234。 | V |
storage_ttl | integer | 將資源保留在後端儲存裝置時間(單位為秒)。 此欄位值與 cache_ttl 或由 Cache-Control 行為定義之資源 TTLs 時間獨立。 | ||
strategy | string | 後端資料儲存的地方(策略),。 唯一可接受的值是: memory 。 | V | |
memory.dictionary_name | string | kong_db_cache | 擁有快取實體的共享 dictionary 的名字。 注意目前必需在 Nginx template 中手動定義此 dictionary。 | V |
#
用法示例#
在全局啟用插件- 從網站左邊 Menu 中
外掛插件
頁面中,點選右上角的新增外掛插件
:
- 點選後,選擇
流量控管
頁籤,並啟用 Proxy Cache,填寫內容參考欄位配置說明,設定成功後,任何請求(不分服務、路由、用戶)皆需經過計算才能通過。
#
在服務端上啟用插件- 從網站左邊 Menu 中
服務 > 服務列表
頁面中,選擇要啟用此插件的服務,假設為google
,點選對應的編輯按鈕:
- 在編輯畫面中,點選上方的
外掛插件
頁籤,再點選頁籤內容上方的新增外掛插件
按鈕:
點選後,選擇 流量控管
頁籤,並啟用 Proxy Cache,填寫內容參考欄位配置說明,設定成功後,僅有此服務(範例為google
)請求需經過計算才能通過。
#
在路由端上啟用插件可以由兩種方式來選擇路由,並啟用插件:
#
方式一:路由列表- 從網站左邊 Menu 中
服務 > 路由列表
頁面中,選擇要啟用此插件的路由,假設為google
,點選對應的編輯按鈕:
#
方式二:服務 > 服務列表 > 路由列表- 從網站左邊 Menu 中
服務 > 服務列表
頁面中,選擇要啟用此插件的路由 所屬之服務(假設為google
),點選對應的編輯按鈕。
在編輯畫面中,點選上方的 路由
頁籤,選擇要啟用此插件的路由(假設為 google
),點選對應的編輯按鈕:
- 承第1步,點擊上述兩種方式之一的編輯按鈕後,在編輯畫面中,點選上方的
外掛插件
頁籤,再點選頁籤內容上方的新增外掛插件
按鈕:
點選新增外掛插件
按鈕後,選擇 流量控管
頁籤,並啟用 Proxy Cache,填寫內容參考欄位配置說明,設定成功後,僅有此路由(範例為google
)請求需經過計算才能通過。
#
在用戶端上啟用插件- 從網站左邊 Menu 中
訂閱用戶 > 用戶列表
頁面中,選擇要啟用此插件的用戶,假設為portaladmin
,點選對應的編輯按鈕 :
- 在編輯畫面中,點選上方的
外掛插件
頁籤,再點選頁籤內容上方的新增外掛插件
按鈕:
點選後,選擇 流量控管
頁籤,並啟用 Proxy Cache,填寫內容參考欄位配置說明,設定成功後,僅有此用戶(範例為 portaladmin
)請求需經過計算才能通過。
#
驗證開啟插件之後,送出請求後收到的回應會包含以下幾種:
後面會詳細解釋快取狀態。
#
相關解釋#
策略 (Strategies)此插件目的在支持以不同的後端格式存儲代理 cache 數據。目前提供以下策略:
memory
: 一個 lua_shared_dict。請注意,默認的 dictionary:kong_db_cache
也用來存儲不相關的 database cache 實體。 使用這個 dictionary 是引導 Proxy Cache 插件的簡單方法,但不推薦用於大規模安裝,因為大量使用會給 GOC API Gateway 的 database caching 操作的其他方面帶來負擔。 建議大規模安裝時要透過自定義 Nginx template 去定義一個單獨使用的 lua_shared_dict。
#
Cache KeyGOC API Gateway 根據請求方法、完整的客戶端請求(例如:請求路徑和查詢參數)以及與請求關聯的 API 或 Consumer 的 UUID 對每個 cache 元素進行鍵控。
這也意味著 cache 在 API 且/或 Consumer 之間是不同的。目前,cache key 格式是 hard-coded 的,無法調整。在內部,cache key 表示為組成部分串聯的十六進制編碼 MD5 和。計算如下:
其中 method
是被定義透過 OpenResty ngx.req.get_method() 所呼叫的,request 是透過 Nginx $request
變數定義的。 GOC API Gateway 將返回與給定請求關聯的 cache key 作為 X-Cache-Key response header。如上所述,也可以為給予的請求預先計算 cache key。
#
Cache Control當開啟 cache_control
選項, GOC API Gateway 即會遵照 RFC7234 之規則,除了以下幾點例外:
- 尚未支援 Cache revalidation,因此像是
proxy-revalidate
相關資訊也會直接忽略。 - 同樣地,
no-cache
的行為簡化為直接將實體從整個快取中排除。 - 尚未支援藉由
Vary
計算 Secondary Key。
#
Cache 狀態共有四種狀態可以從標頭 X-Cache-Status
識別:
Miss
: 請求滿足快取,但快取目前沒有相關資料存在。此請求必需導向代理服務。Hit
: 請求滿足快取並能取得存在於快取的資料。Refresh
: 資料存在於快取,但不符合 Cache-Control 行為中的定義請求內容或是 cache 的存活時間已到。Bypaas
: 請求不符合插件的設定值。
#
Storage TTLGOC API Gateway 可以在存儲引擎中存儲資源實體的時間超過規定的 cache_ttl
或 Cache-Control
值標示的時間。
這允許 GOC API Gateway 在 cache 過期後能保存著資源的 cache 副本。
這允許客戶端可以在必要時使用 max-age
和 max-stale
headers 來請求過時的 data。
#
上游中斷當一個上游服務無法訪問時,由於 GOC API Gateway 的核心請求處理模型實作方式,導致此時 Proxy Cache 插件不能用於提供舊的 cache data。
為了讓 GOC API Gateway 能夠在上游服務無法訪問時提供 cache data 而不是返回錯誤,我們建議定義一個非常大的 storage_ttl
(大約幾小時或幾天),以便將舊的 data 保留在 cache 中。
在上游服務中斷的情況下,通過增加 cache_ttl
配置值,可以將舊的 data 視為 "新的" data。透過這種方式,在 GOC API Gateway 嘗試連接到失敗的上游服務之前,先前被認為過時的舊 data,現在可以正常提供給客戶端。
#
Admin API此插件為了託管的 cache 實體提供了多個 API Endpoints。 Admin API 上提供了以下端點可以檢查、清除 cache 實體:
info
Admin API 與透過 GOC API Gateway 呼叫後端服務的 URL 是不同的。
舉例來說,GOC API Gateway 在安裝完畢時會提供 2 種 URLs:
Admin API URL: 用來設定、取得、修改 GOC API Gateway 本身的設定、數據資料所使用的管理用 API。
Proxy API URL: 用來呼叫後端服務的代理用 API。
而下方 檢查 Cache Entity 所提到的 Endpoints 就是需要使用 Admin API URL
來呼叫。
註:若不清楚如何取得上述的 2 種 URLs,可以參考 常見問題。
#
檢查 Cache 實體有兩個單獨的 Endpoints 可用:一個用於查找已知的插件實例,另一個透過給予的 cache key 來搜索所有 Proxy Cache 插件的 data store。兩個 Endpoints 具有相同的回傳值。
Endpoint
屬性 描述 plugin_id
Proxy Cache 插件的 UUID。 cache_id
X-Cache-Key response header 報告的 cache 實體 key。
Endpoint
屬性 描述 cache_id
X-Cache-Key response header 報告的 cache 實體 key。
如果 cache 實體存在,則會回傳:
如果給予的 cache key 實體並不存在,則會回傳:
#
刪除 Cache 實體Endpoint
屬性 描述 plugin_id
Proxy Cache 插件的 UUID。 cache_id
X-Cache-Key response header 報告的 cache 實體 key。
Endpoint
屬性 描述 cache_id
X-Cache-Key response header 報告的 cache 實體 key。
如果 cache 實體存在,則會回傳:
如果給予的 cache key 實體並不存在,則會回傳:
#
清除所有 Cache 實體Endpoint
caution
請注意,此 Endpoint 會清除所有代理緩存 Proxy Cache 插件的所有 Cache 實體。