この問題はsavefiledialogのoverwritepromptプロパティ(既にファイルがある場合に警告ダイヤログを表示する)に関するバグです。これは開発者側のバグでは無くMicrosoft側のバグです。
環境：Windows 10 Pro 1809
開発環境：Visual Studio 2017( .NET Framework 4.6.2)
この問題はWindows 10 の特定のバージョンでのみ発生しているようです。私と同じWindows 10 Pro 1809(2018/10月)であれば必ず再現するでしょう。この問題は2019/1/10時点では解消されていません。
２回上書きメッセージが表示されてしまうので、客先に納品しているプログラムで発生した場合だいぶ恥ずかしい症状です。
アップデートを待つか(既に3ヶ月放置されていますが)、savefiledialog のoverwritepromptプロパティ以外で上書き警告を出して回避しましょう。