「はじめからやり直す」の「はじめ」は，「初め」と「始め」どちらか，ハタと考え込んでしまって，これらの使い分けを調べてみました。
漢字の熟語を並べてみるとだいたい分かります。
「初め」は，最初，初旬，初期、当初、初回，初陣，初演など。
一方「始め」は，開始、始動、始業、始球式，始終，始点など。
こうやってみると，「初め」は「ものごとの最初」で，「始め」は「ものごとの開始」と使い分ければよさそう。
冒頭の「はじめからやり直す」は，なかなか微妙で，「最初からやり直す」「開始からやり直す」どちらの意味でもOKなので，「初め」と「始め」どちらを使っても問題なさそうです。
