Das was du da eingestellt hast, sind auch nicht die Settings die den vRAM sprengen ;)
Versuchs mal so in der Art nur halt die beiden Regler bei MSAA und SGSSAA jeweils auf 4 Samples drehen. Mit DS sollte das die 2GB so schon zum überlaufen bringen, wenn nicht, installierst du noch einen Mod...