公司動态

兩位前Twitter開發者平台高管成立了(le／liǎo)一(yī / yì ／yí)家名爲(wéi / wèi)Freeplay的(de)AI開發平台。他(tā)們表示，它不(bù)僅僅是(shì)可觀測性。

譯自Freeplay: New LLM Dev Tool for Java Developers (and Others)。

Freeplay是(shì)一(yī / yì ／yí)款全新的(de)LLM開發平台(今年我已經多次重複這(zhè)個(gè)句子(zǐ)了(le／liǎo))。一(yī / yì ／yí)位投資者稱它爲(wéi / wèi)“Figma的(de)”，把它稱爲(wéi / wèi)“LLM開發的(de)Figma”。所以(yǐ)到(dào)目前爲(wéi / wèi)止，我們是(shì)兩個(gè)開發工具炒作指數中的(de)其中一(yī / yì ／yí)個(gè)。

但是(shì)讓我們先退一(yī / yì ／yí)步：Freeplay到(dào)底是(shì)什麽？爲(wéi / wèi)了(le／liǎo)弄清楚，我采訪了(le／liǎo)聯合創始人(rén)兼CEOIan Cairns，他(tā)以(yǐ)前在(zài)Twitter的(de)開發者平台工作，直到(dào)該公司被埃隆·馬斯克收購。

Cairns告訴我，他(tā)和(hé / huò)聯合創始人(rén)Eric Ryan(也(yě)來(lái)自Twitter)創立Freeplay是(shì)爲(wéi / wèi)了(le／liǎo)“幫助産品開發團隊在(zài)其産品中利用LLM”。目前，Freeplay可以(yǐ)幫助測試、試驗、監測和(hé / huò)提示管理。

“這(zhè)些功能組合起來(lái)可以(yǐ)幫助人(rén)們完成軟件開發生命周期，”Cairns說(shuō)。“從原型階段，到(dào)測試階段以(yǐ)确保它準備好投産，最後 - 當它已經上(shàng)線時(shí) - 幫助您了(le／liǎo)解系統中的(de)大(dà)規模運行情況，然後找到(dào)方法進行改進。”

與我最近介紹的(de)LLM開發平台Gradient一(yī / yì ／yí)樣，Freeplay面向企業軟件開發者。

“我們的(de)大(dà)多數客戶都是(shì)一(yī / yì ／yí)些已有業務的(de)軟件公司，”Cairns說(shuō)。“也(yě)就(jiù)是(shì)說(shuō)，它們不(bù)是(shì)以(yǐ)AI爲(wéi / wèi)先的(de)創業公司。它們都是(shì)一(yī / yì ／yí)些試圖采用LLM的(de)公司，已經有了(le／liǎo)成熟的(de)業務和(hé / huò)客戶群。它們有很出(chū)色的(de)軟件開發者，但可能以(yǐ)前沒有使用過LLM，甚至沒有使用過機器學習。”

将Java引入AI世界

Freeplay爲(wéi / wèi)Python、Node和(hé / huò)Java提供了(le／liǎo)開發者SDK。Cairns聲稱，Java SDK在(zài)當前的(de)AI工程空間中是(shì)獨一(yī / yì ／yí)無二的(de)。

“AI創業社區中的(de)許多人(rén)要(yào / yāo)麽使用Python，因爲(wéi / wèi)傳統上(shàng)有大(dà)量的(de)機器學習和(hé / huò)AI工具在(zài)Python世界，要(yào / yāo)麽使用Node或JavaScript - 因爲(wéi / wèi)他(tā)們正在(zài)構建React應用程序，您可以(yǐ)使用JavaScript進行服務器端和(hé / huò)前端工作。我們與衆不(bù)同的(de)地(dì / de)方在(zài)于(yú)：我沒有看到(dào)目前這(zhè)個(gè)領域有人(rén)爲(wéi / wèi)JVM構建過SDK。”

他(tā)說(shuō)，許多成熟的(de)軟件公司使用的(de)是(shì)Kotlin等語言，Kotlin與JVM兼容。他(tā)補充說(shuō)，當他(tā)在(zài)Twitter工作時(shí)，他(tā)們使用的(de)是(shì)Scala(Scala是(shì)另一(yī / yì ／yí)種兼容JVM的(de)語言)。

“僅爲(wéi / wèi)了(le／liǎo)調用語言模型就(jiù)采用一(yī / yì ／yí)種全新的(de)編程語言，這(zhè)可能不(bù)是(shì)很合理，”他(tā)說(shuō)。“我們發現，很多老牌公司隻是(shì)與他(tā)們這(zhè)多年來(lái)一(yī / yì ／yí)直在(zài)使用的(de)軟件進行集成 - 他(tā)們不(bù)會去使用某些新的(de)AI框架。”

數據飛輪：不(bù)僅僅是(shì)可觀測性

我提到(dào)，乍一(yī / yì ／yí)看，Freeplay讓我想起了(le／liǎo)Humanloop，後者将自己描述爲(wéi / wèi)一(yī / yì ／yí)個(gè)“協作遊樂場”，開發人(rén)員可以(yǐ)在(zài)其中測試和(hé / huò)部署提示。我問Cairns，這(zhè)是(shì)否是(shì)一(yī / yì ／yí)個(gè)公平的(de)比較？

他(tā)回答說(shuō)，這(zhè)是(shì)一(yī / yì ／yí)個(gè)“合理的(de)類比”，但是(shì)Freeplay更常被客戶在(zài)“已經上(shàng)線生産”後使用 - 暗示它可能不(bù)像Humanloop那麽像一(yī / yì ／yí)個(gè)“遊樂場”。

Freeplay演示圖片

我注意到(dào)Freeplay和(hé / huò)Humanloop都包含了(le／liǎo)測試和(hé / huò)監測功能，所以(yǐ)它們兩者都類似于(yú)傳統的(de)DevOps可觀測性平台。Cairns在(zài)某種程度上(shàng)贊同這(zhè)點，但他(tā)指出(chū)LLM應用程序的(de)需求與傳統應用程序不(bù)同。

“在(zài)傳統的(de)可觀測性中，大(dà)部分目标就(jiù)是(shì) - 嘿，發生了(le／liǎo)什麽，”他(tā)解釋說(shuō)。“但是(shì)對于(yú)機器學習系統，我認爲(wéi / wèi)這(zhè)對LLM也(yě)适用，可觀測性的(de)需求 - 發生了(le／liǎo)什麽 - 仍然存在(zài)，但它實際上(shàng)也(yě)是(shì)這(zhè)個(gè)數據飛輪的(de)一(yī / yì ／yí)部分，以(yǐ)一(yī / yì ／yí)種不(bù)同的(de)方式幫助您逐步優化産品，當您進行機器學習時(shí)。”

關鍵在(zài)于(yú)，LLM應用程序的(de)質量依賴于(yú)基礎數據(或數據的(de)查詢方式)，任何來(lái)自軟件開發周期有助于(yú)優化應用程序的(de)内容，都會反饋到(dào)LLM(或提示/查詢)中。正如Cairns所說(shuō)，Freeplay“不(bù)僅是(shì)一(yī / yì ／yí)個(gè)可觀測性平台 - 可觀測性是(shì)一(yī / yì ／yí)個(gè)幫助更大(dà)優化循環的(de)功能”。

Figma的(de)類比

與低代碼平台類似，Freeplay旨在(zài)被開發人(rén)員和(hé / huò)産品/業務人(rén)員共同使用。這(zhè)就(jiù)是(shì)Figma類比的(de)來(lái)源。它是(shì)一(yī / yì ／yí)個(gè)使專業開發人(rén)員能夠通過Web前端與業務利益相關者進行協作的(de)工具。我問Cairns通常是(shì)開發人(rén)員還是(shì)産品經理在(zài)推動這(zhè)個(gè)過程。

“進行初始設置的(de)人(rén)一(yī / yì ／yí)直是(shì)技術領導者，”他(tā)回答說(shuō)。“無論是(shì)CTO還是(shì)工程主管，也(yě)就(jiù)是(shì)說(shuō)，他(tā)們是(shì)那些說(shuō)，嘿，我們想給團隊提供更好工具的(de)人(rén)。”

開發人(rén)員的(de)作用是(shì)項目的(de)實施。

“開發人(rén)員肯定會首先使用Freeplay進行集成并持續使用它，”Cairns說(shuō)。“但是(shì)它的(de)工作方式是(shì)您将我們的(de)SDK嵌入到(dào)您正在(zài)構建的(de)應用程序中。我們開始管理提示，就(jiù)像管理服務器端實驗一(yī / yì ／yí)樣。”

他(tā)将其比作類似Amplitude或LaunchDarkly等工具，可以(yǐ)進行A/B測試 - “這(zhè)樣産品經理就(jiù)可以(yǐ)啓用實驗”。因此一(yī / yì ／yí)旦開發人(rén)員設置了(le／liǎo)系統，産品經理就(jiù)可以(yǐ)進行這(zhè)種實驗或測試。

将OpenAI的(de)開發者平台與Twitter的(de)進行比較

最後，我問Cairns他(tā)和(hé / huò)他(tā)的(de)聯合創始人(rén)Eric Ryan是(shì)否從在(zài)Twitter開發者平台工作中獲得了(le／liǎo)一(yī / yì ／yí)些經驗教訓。兩人(rén)都在(zài)2014年加入Twitter，因爲(wéi / wèi)Twitter在(zài)那年收購了(le／liǎo)Gnip，一(yī / yì ／yí)家社交媒體API聚合公司。

你們中一(yī / yì ／yí)些人(rén)可能還記得，Twitter曾有可能成爲(wéi / wèi)一(yī / yì ／yí)個(gè)大(dà)規模的(de)應用開發平台，但他(tā)們在(zài)2010年代初不(bù)明智地(dì / de)打壓第三方開發者。Cairns謹慎地(dì / de)沒有過多談論這(zhè)一(yī / yì ／yí)點，但他(tā)确實得出(chū)了(le／liǎo)一(yī / yì ／yí)個(gè)有趣的(de)類比，即OpenAI現在(zài)的(de)處境。

“我認爲(wéi / wèi)OpenAI确實做得很好，這(zhè)是(shì)Twitter在(zài)2010年我們不(bù)在(zài)的(de)時(shí)候錯過的(de)機會。昨天它們做出(chū)了(le／liǎo)重大(dà)改變 - 似乎與那些構建獨立聊天機器人(rén)或代理的(de)人(rén)存在(zài)競争，但它們也(yě)通過應用商店和(hé / huò)在(zài)其平台上(shàng)獲利的(de)機會吸引了(le／liǎo)這(zhè)些人(rén)。我認爲(wéi / wèi)它們在(zài)這(zhè)方面做得不(bù)錯。”