定番的な業務の場合
世の中で必要なことは人によってもそれほど大きく変わらないので、やっぱり既存のものを使うのが基本でしょう。例えばよくある必要な機能といえば、
顧客管理（SalesForce Zoho）
会計（弥生会計、freee、Quickbook）、
在庫管理
請求書の発行と売掛金管理
出退勤の管理と給与計算
タスク管理
などがあります。
この辺は定番業務なので、ソフトウェアを売ることが目的なのではない限りわざわざ自社でソフトを作る必要は無いでしょう。世の中には素晴らしいものが沢山ありそうです。ただ、ソフトウェアも人が作るものなのでどれも自分が100%満足することはありません。弥生会計はデスクトップのソフトなのでクラウドではまだまだ出遅れています。私の仕事が会計事務所なのでちょっと知っているだけですが、売掛金と在庫管理のソフトでは弥生販売と言うのが世の中で結構使われていますが、機能が少ない事や操作の仕方にわかりにくかったりなど不満に思う事が多々あります。
ソフトウェアの開発が出来る人なら一念発起してこれらのソフトを超えることはないにしても、これらのソフトが実現できていない不便な事を補うソフトを作ることは出来ると思います。ただ、基本は出来るだけ自分で作らず世の中にあるものを使うのが良いと思います。表計算やメールのソフトを自分で作る意味はほとんど無いと思います。
自社の業務そのものである場合
ネットのオークションであったり、人材マッチングの仕事であったりなど、自社の業務や強みそのものがそのソフトウェアでやられている場合は、ガンガンと開発を進めていく必要があります。エンジニアを外注でやる場合もありますが、ノウハウの蓄積が必要なので社内でエンジニアを持つ場合がほとんどです。
こういう会社は自社の強みが確立しているので、収益性が高いことが多いです。私のお客様を見てもその業界で一定の地位を確立してしまっていることが多いです。その業界で知らない人があまりいないくらいになっていることも多いです。忙しいけど儲からない、いわゆる「貧乏暇なし」という状況からは完全に脱け出ています。
中小会計事務所の場合
ちょっとシチュエーションがニッチすぎますが、どの中小企業もその会社独特のプロセスややり方があると思います。私の事務所でもそうです。
お客様からいただいた郵便物の日付と内容の記録（写真付き）、課税売上高と税務署に対する届出書の管理、過去の重要な打合せの記録や留意点のメモ、見積もりなどを自社システムを作って、一つのシステムで一括管理して居ます。そのお客様の情報をまとめて見れるのでとても便利です。
社内ネットワークならPCのブラウザーからでも見れるので、お客様と電話で話ながらでも必要なすぐに情報が出せるので便利です。
システムの内容は一般的でもありますが、会計事務所独自の部分もあり、市販ですべてのニーズを満たすものは売っていなさそうです。こう言うシステムは自社で作った方が良いのでしょうか、それともエクセルやEvernoteなどの既存のシステムを工夫して使って自社開発は避けるべきなのでしょうか。
確かに時間もコストもかかります。ジュニアなエンジニアでも一人を社内で雇用すると500万はかかります。エンジニアの技術が上がっていけば給料も上げて行かなければいけません。システム開発だけでなく、他にも社内のIT周りの仕事をしてもらえるとしても、この固定費は中小企業にはべらぼうです。業務の改善で年間に500万円分以上の効率化やメリットを出すのは相当に大変ですから、ある程度、社内で規模の利益が採れない場合はやるべきでないのでしょう。
このような状況でやるべきことは、きっと、社長がITツールを個人的にも勉強して、出来るだけ既存のものを使いこなすようにすることでしょう。
それでも、システム開発は一度開発したら、（メンテやアップデートが少しは必要ですが）後は勝手に動いてくれます。システムは長い時間ではメリットが少しずつ積み重なっていくものなので、人と違う事をしたいのなら、自社の成長とともにシステムも成長させていくのもありだとは思います。
それより今はVBAやマクロ、PythonやC#など結構簡単に動かせる言語も多いです。ちょっとずつ手作りして細かい事務作業や定番業務を自動化して効率化していくのはあり（というか必要？）だと思います。
一応の結論
一応の結論ではありますが、こたえは一択で、大概の場合、ソフトは既に世の中にあるのでそれを使うのが良いのでしょう。
自社で開発すると、プログラマーも必要だしインフラ周りの人も必要です。ただ、私がプログラミングが好きだという事もあるのでひいき目に見ているのかもしれません。出来るだけシステム開発を自社でやりたいと思っていますが、やらないで本業に注力するのが賢明な選択と言うことになりそうです。