如何在 beehiiv 中設置 A/B 測試

設置有效的 A/B 測試以提升開信率

開信率(Open rate)是任何出版商或創作者最重要的指標之一。畢竟,高開信率意味著更多人看到你的內容,也代表你能賺到更多廣告收入。A/B 測試(A/B testing)能幫助電子報提高開信率,確保讀者收到的是最佳主旨。

如果你已經熟悉 A/B 測試(A/B Testing),但想要進行更好的實驗,可以參考這 六個讓 A/B 測試更有效的考量要點。 否則,請繼續閱讀以了解在 beehiiv 上進行 A/B 測試的基本知識。

什麼是 A/B 測試(A/B Test)?

為了向讀者發送最佳的主旨行,發行者通常會製作多個主旨行版本,以測試哪一個能產生最高的開信率。A/B 測試可以使用兩個或更多版本的主旨行來進行。

這些測試用的主旨行會發送給一個較小(但仍具代表性)的電子郵件列表樣本,這個樣本是隨機選出的。樣本群組會被平均分配,每組收到一個版本的主旨行。測試會進行一段固定的時間(通常是幾個小時),然後分析不同主旨行的開信率。統計上顯著具有最高開信率的主旨行,會被發送給剩餘的收件人。

舉例來說:

假設我們有一個 10 萬名訂閱者 的電子郵件名單,我們想要進行一個 A/B 測試,使用兩種不同的主旨來宣布一項新功能。這個測試將在 3 小時 的測試期間內,發送給我們 20% 的訂閱者。

  • 主旨 A:「快來看看這個超棒的新功能」

  • 標題 B:「我們剛推出 A/B 測試功能,來看看細節吧」

測試將於早上八點開始,持續三小時。在這三小時內,測試郵件會發送給兩萬名訂閱者,這佔總訂閱人數的百分之二十。其中一萬名訂閱者會收到主旨 A,另一萬名訂閱者則會收到主旨 B。

三小時過後,我們會檢查測試是否達到統計顯著性,並確認哪個主旨表現較佳。如果沒有達到統計顯著性,我們就會單純看哪個主旨帶來較高的開信率。這個表現最佳的主旨將會發送給剩下的 8 萬名訂閱者。

如何在 beehiiv 設置你的 A/B 測試(A/B Test)

你也可以在這裡觀看有關其運作方式的影片:https://youtu.be/7Ph7HeBA5NE

注意:A/B 測試(A/B Testing)功能僅適用於 Grow 方案或更高等級的方案。你可以進一步了解 我們的方案。

要在新貼文中設定測試,請前往「設定(Configure)」—>;「電子郵件設定(Email Settings)」。

輸入你想測試的第一個主旨行版本,然後點擊「建立 A/B 測試(Create A/B Test)」。接著會出現一個「主旨行 B」的欄位。

註:在「成長」方案中你可以測試兩種主旨行,而在「擴展」方案中則最多可以測試四種。

從這裡,你可以點入 A/B 測試設定(A/B test settings)查看更多細節。(你必須訂閱 Scale 方案才能修改這些設定。)

你會看到兩個欄位:持續時間(Duration)和樣本大小(Sample Size)。

測試時間:這是你的測試會進行的時間長度。預設的測試時間是 180 分鐘,但你可以選擇 5 到 240 分鐘之間的任何時間長度。我們會在這段時間內進行測試,以決定最佳的主旨行。一旦測試完成,我們會將獲勝的主旨行發送給你剩餘的訂閱者。

請注意:一旦你設定好測試時間並開始測試後,就無法提前結束測試。

舉例來說:如果你將測試時間設定為 180 分鐘,我們會先將不同版本的主旨行發送給你樣本群組中的訂閱者。在 180 分鐘後,我們會判斷哪個主旨行表現最佳。接著,這個勝出的主旨行就會在那個時間點發送給你所有其他的訂閱者。

樣本大小:這是指你的測試中會包含多少訂閱者。我們預設為 20%,但你可以選擇 1%到 100%之間的任何比例。根據你選擇的百分比,我們會自動顯示有多少用戶屬於這個測試群組。然後,我們會將整個測試群組平均分成幾個小組,每組會收到一個版本的主旨行。

舉例來說:你總共有 10 萬名訂閱者,而你將樣本大小設定為 20%。我們會用 2 萬名訂閱者進行 A/B 主旨行測試。如果你有兩種版本的主旨行,我們會將每個版本分別發送給 1 萬名用戶。在你的測試期結束後,剩下的 8 萬名訂閱者將會收到表現最佳的主旨行。

在 beehiiv 進行 A/B 測試的另一種方法

有時候,你可能想要對整個訂閱者名單進行測試,而不是只針對一小部分讀者發送不同版本的主旨行。在 beehiiv 上,你也可以做到這一點。

你只需要把樣本大小設定為 100%。這代表你的主旨列測試版本會發送給所有訂閱者。你可以設定兩個或更多版本的主旨列,你的讀者群會平均分配到不同的版本中。

對整個讀者群進行主旨列測試有利有弊。

優點:由於你使用了全部的受眾群,你有更高的機會看到統計上顯著的結果。

電子報也會同時發送給你所有的讀者。如果你習慣在特定時間發送電子報,那麼發送時間對你的品牌和電子報來說可能很重要。在這種情況下,一次性發送給所有訂閱者可能會是更好的選擇。

缺點:以這種方式進行結構化時,你的大部分讀者會收到非優勝版本的主旨行。當你使用小規模樣本進行測試時,你可以找出最佳的主旨行,並將其發送給剩餘的讀者。然而,當你對全體讀者進行測試時,如果你有兩個版本的主旨行,那麼有一半的讀者會收到最終表現較差的那個版本。

無論你如何設置測試,為了電子報的成功,重要的是要將測試變成一個定期且頻繁的慣例。A/B 測試(A/B Testing)是一個不斷迭代的過程,而非追求完美。持續測試,再測試,不斷測試!

希望這些資訊對你有幫助!再次提醒,當你掌握基礎知識後,別忘了回顧六個讓 A/B 測試更有效的因素

祝測試愉快!