сделайте в форме addgroup новый конструктор, который будет принимать на вход в качестве параметра dataGridView и хранить его в виде поля.
при создании передавайте ваш грид в новую форму и там используйте
private DataGridView maingrid;
public addgroup(DataGridView grid)
{
maingrid=grid;
}
addgroup form = new addgroup(dataGridView1);
form.Owner = this;
form.ShowDialog();
public void button1_Click(object sender, EventArgs e)
{
int val_id = maingrid.Rows.Count + 1;
}