自己接 OpenAI API 做產品,使用者輸入什麼內容都算在開發者的帳號上。OpenAI 提供免費的 omni-moderation-latest 模型判斷文字與圖片是否違反安全規範,這篇說明內容審核為什麼是開發者的義務而不只是選配、模型的兩種呼叫方式(獨立呼叫 moderations 端點與跟生成請求一起送出)、flagged 與 category_scores 該怎麼判讀、safety_identifier 如何讓封鎖落在個別使用者而不是整個組織,以及資料保留與速率限制的實務注意事項。
程式筆記、開發心得、個人部落格
自己接 OpenAI API 做產品,使用者輸入什麼內容都算在開發者的帳號上。OpenAI 提供免費的 omni-moderation-latest 模型判斷文字與圖片是否違反安全規範,這篇說明內容審核為什麼是開發者的義務而不只是選配、模型的兩種呼叫方式(獨立呼叫 moderations 端點與跟生成請求一起送出)、flagged 與 category_scores 該怎麼判讀、safety_identifier 如何讓封鎖落在個別使用者而不是整個組織,以及資料保留與速率限制的實務注意事項。