Debe agregar a csproj un modificador adicional:
<UseWindowsForms>true</UseWindowsForms>
Agréguelo debajo de UseWpf . Luego intente reconstruir. Después de esto, debería poder usar el espacio de nombres de Formularios.
Parece que ya existe:https://docs.microsoft.com/en-us/dotnet/api/system.windows.forms.folderbrowserdialog?view=netcore-3.0
Para otros problemas de portabilidad, es posible que desee utilizar el Paquete de compatibilidad de Windows que se usa para ayudar a portar aplicaciones a .NET Core
También puede haber más información relacionada con WPF y este problema, ya que ha existido por un tiempo. Esto podría ser útil Seleccione el cuadro de diálogo de carpeta WPF y actualizado para .NET Core.
¡Buena suerte con tu actualización!
Y así es como se hace referencia a System.Windows.Forms en .NET 5.0 para aplicaciones WPF y WindowsForms
<PropertyGroup>
<TargetFramework>net5.0-windows</TargetFramework>
<GenerateAssemblyInfo>false</GenerateAssemblyInfo>
<UseWPF>true</UseWPF>
<UseWindowsForms>true</UseWindowsForms>
</PropertyGroup>