mablの導入効果をレビューでご紹介(筋肉CTO)
筋肉CTO
CTO・VPoE / CTO / 従業員規模: 11名〜50名 / エンジニア組織: 11名〜50名
利用プラン | ツールの利用規模 | ツールの利用開始時期 |
---|---|---|
スタートアッププラン | 10名以下 | 2023年3月 |
利用プラン | スタートアッププラン |
---|---|
ツールの利用規模 | 10名以下 |
ツールの利用開始時期 | 2023年3月 |
導入の背景・解決したかった問題
導入背景
導入前は、スプリントごとに作成する新機能テストに加え、決まったメニューの非回帰テストを実施。非回帰テストは1名で回していたうえ、機能増加や本番バグの検知につれて非回帰テストが急増していた。
週次でリリースを行うサイクルの中で、5日間のスプリントのうちの最後の1日でテストを実施しバグを検知する状態では、バグが起きた際にバグへの対応によりリリースが遅れてしまうという課題があった。
バグの存在を事前に検知できるようにシフトレフトすることが、あるべきエンジニアリングの形だと考えた。また、ヘンリーでは、医療ドメインにディープダイブするために医療事務など、ドメインのスペシャリストであるドメインエキスパートを採用しているが、彼らの知見を最大限活かすためには非エンジニアがテストを実行できる必要があり、テスト自動化のローコードツール導入を検討した。
選定理由
- トライアルの段階で非エンジニアの方にmablを使ったテストを作成してもらっていたが、非エンジニアでも利用できる使いやすさがあった
- CI/CDとの連携や統計のAPI提供など、エンジニアリングとの統合が強力だった
- 多くのBtoB企業で行う以下のような複雑な機能のテストをカバーしている点
- 変数の動的設定が可能である
- AIによるクリックやセレクタによる検索、JS処理など多様な操作方法がある
- メールの文言検証や二要素認証のサポートしている
- 2021年段階でGlobalでのシェアが1位だったのと、StackdriverをGoogleに売却した起業家が設立した2社目の企業だったというのもあり、信頼することができた
導入に向けた社内への説明
上長・チームへの説明
- 前提として非回帰テストの急増によってテスト期間が伸びたり、そこで問題が発生した際にリリースに影響が出たり、という課題に対して共通認識を持っていた
- ドメインエキスパートが自動テストを実行できる状態を作ることが、ヘンリーが目指すべきエンジニアリングの世界観であることお伝えした
- 一方で、注意した点としては自動テストにおいてはテストの作成やメンテナンスの時間はかかるため、自動テストの価値 =工数削減ではないということも強調した
費用対効果の算出
コストをどうやって回収できるかというロジックを用いて資料の作成や説明をしたというよりは、自社が目指す世界観に近いのはmablを活用した体制であるという話し方で進めた。
一方で、固定の回数+超過分の従量課金制なので、テストの実行回数や費用の試算等は行っている。
活用方法
よく使う機能
実行結果のスナップショット
テストに落ちた際に、実行結果のスナップショットで画面結果となっているのかを確認している
ツールの良い点
非エンジニアでもE2Eテストができる
医療文脈だとドメインの知識がないとわからないことがあるが、それでは自動テストがしづらいというトレードオフを解決してくれる点。非エンジニアのドメインエキスパート(医療従事者)の方でもE2Eテストを作ることができるのは革命的。
ツールの課題点
テストの安定性に課題
リトライすれば戻るが、15件/日くらいテストを行う中で、mablの挙動の問題で1〜2件/日ほどテストに落ちたりするケースがある。恒常化するとテストに落ちた際に、バグではなくテストの不安定さが原因なのではないかとなり形骸化してしまう恐れがあるのが課題。
その他
mablが使いやすいということもありますが、非エンジニアで自動テストを作成できているのは、ヘンリーのドメインエキスパートがレベルが高くて素晴らしいという側面もあります。私だったら元医療事務で変数生成したりなど自動テストを作成するのはなかなか難しいと感じました。
ツールを検討されている方へ
テスト自動化ツールは工数削減を目的とされる方もいるかもしれないが、テストの作成やツールの利用におけるキャッチアップも含めると工数はむしろ増える可能性もあります。それよりも組織がスケールした際にバグ対応で後手に回らないように自動テストを利用することで生産性を高めるという意識が重要だと思います。
また、手動の非回帰テストが週1回、1時間程度でそこまで負担になっていないフェーズであればテスト自動化ツールを導入する必要はないと考えています。1〜2年経って、機能が増えたり、複雑化したタイミングで考え始めればいいと思います。
筋肉CTO
CTO・VPoE / CTO / 従業員規模: 11名〜50名 / エンジニア組織: 11名〜50名
よく見られているレビュー
筋肉CTO
CTO・VPoE / CTO / 従業員規模: 11名〜50名 / エンジニア組織: 11名〜50名
レビューしているツール
目次
- 導入の背景・解決したかった問題
- 活用方法