CLI也是同樣的道理。比如我想得到的是arp的回顯。如果系統在給出了arp回顯的同時,又打出了“this callback has not been registed”,手工測試很容易就發現了這個問題,而自動化卻往往測不出:
有了前三次的失敗經驗,第四次自動化測試順暢多了。這時我們的自動化率也就是在10%的樣子,但我們一共有接近1w個用例,所以腳本總數還行。團隊里有的人覺得還是可以的,感到不管怎么樣總是有了些東西,也有的小伙伴有些質疑,我自己是表面上表現得很支持,干勁很足,內心卻總是覺得有些別扭。
其實對我的產品來說,基本功能部分的質量還是有保證的。在沒有自動化測試的時候,即使是做回歸測試,我們不會去測試那些很基礎的用例,而會把幾個功能組合起來做場景的回歸測試,這樣如果基本功能有問題,也可以第一時間發現。
自動化后,變成了先跑這些基礎的回歸測試用例,通過了,再去做場景回歸。無論自動化測試的結果如何,都要投入一定的人力去運行維護自動化的環境,確認結果。雖然這時我們的自動化已經穩定多了,但自動化的烏龍事件還是比較多的。
我沒有感受到自動化的便捷,相反,我感覺它成為了一個負擔。
那時正是自動化測試在行業中被熱捧的時期,一方面是外面的專家老師對自動化測試的各種贊美之情,另一方面我卻覺得我那么努力,卻一直沒有達到應有的預期,我感到十分迷茫。
原文轉自:http://gitbook.cn/books/58d23ddcfa7558521a30277a/index.html