jcmvbkbc

В чем проблема? Что я делаю не так?

Я подозреваю, что не нужно делать regs.rip -= 1 ;, потому что процесс не может "выполнить" точку останова.
Ну и для надёжности, я бы убедился, что в памяти куда пишется 0xcc действительно до этого было 0x55.

Вот как сделать дамп программы и 10 фрагментов в отдельные файлы?
Можно ли такую программу для дампов разработать самостоятельно?

Ключевые слова: CreateProcess/OpenProcess чтобы создать/открыть существующий процесс, VirtualQueryEx чтобы просмотреть области памяти выделенные процессом и ReadProcessMemory чтобы прочитать данные из нужных областей памяти.

Я хочу произвести отладку и остановить программу когда будет соблюдаться определенное условие. Допустим сумма регистров eax+ebx будет равна 65463.

Для совсем уж произвольного условия, типа того, что вы написали, готовых средств скорее всего нет.
Если вам нужно остановиться, когда программная переменная в памяти принимает определённое значение -- искать в вашем отладчике по слову watchpoint. В gdb, например, можно поставить watchpoint на переменную, а в commands вписать код, который будет продолжать выполнение, если значение переменной не то, что вам нужно, например:

$ cat > main.c
int v;

static void f(int *p)
{
        int i;

        for (i = 0; i < 20; ++i)
                *p = (i - 10) * (i - 10);
}

int main()
{
        f(&v);
        return 0;
}
$ gcc -g2 -o watch main.c     
$ gdb ./watch              
...
Reading symbols from ./watch...done.
(gdb) start
Temporary breakpoint 1 at 0x4004ec: file main.c, line 13.
Starting program: /home/jcmvbkbc/tmp/toster/watch/watch 

Temporary breakpoint 1, main () at main.c:13
13              f(&v);
(gdb) watch v
Hardware watchpoint 2: v
(gdb) commands 
Type commands for breakpoint(s) 2, one per line.
End with a line saying just "end".
>if (v != 4)
 >continue
 >end
>end
(gdb) c
Continuing.
...
Hardware watchpoint 2: v

Old value = 9
New value = 4
f (p=0x600904 <v>) at main.c:7
7               for (i = 0; i < 20; ++i)
(gdb)

Можно. Запустить gdb так:
gdb program-image-with-debug-symbols
и выполнить из командной строки gdb
attach pid
где pid -- номер процесса к которому надо подключиться.

Ну и, понятное дело, чтобы это работало правильно, program-image-with-debug-symbols должна отличаться от выполняющейся программы только наличием отладочной информации.

есть JNI-библиотека вида lib.so. NativeActivity.
...
я не умею дизассемблировать библиотеки такие.

Берёшь objdump из тулчейна которым собрана либа и выполняешь objdump -xd lib.so.NativeActivity.
Задавай уточняющие вопросы: непонятно, с чем именно у тебя сложности.

1. gdb, strace
2. ?
3. Примеры: gdb:

$ pidof top
21259
$ gdb
GNU gdb (GDB) Fedora 7.5.1-42.fc18
...
(gdb) attach 21259
Attaching to process 21259
Reading symbols from /usr/bin/top...Reading symbols from /usr/bin/top...(no debugging symbols found)...done.
...
(gdb) bt
#0  0x0000003fd2ceb843 in __select_nocancel () from /lib64/libc.so.6
#1  0x00000000004033e7 in main ()
(gdb) up
#1  0x00000000004033e7 in main ()
(gdb) x/10i $pc
=> 0x4033e7 <main+3639>:        test   %eax,%eax
   0x4033e9 <main+3641>:        jle    0x403340 <main+3472>
   0x4033ef <main+3647>:        xor    %edi,%edi
   0x4033f1 <main+3649>:        callq  0x408840 <keyin>
   0x4033f6 <main+3654>:        cmp    $0x1b,%eax
   0x4033f9 <main+3657>:        mov    %eax,%ebx
   0x4033fb <main+3659>:        je     0x403340 <main+3472>
   0x403401 <main+3665>:        jg     0x40344e <main+3742>
   0x403403 <main+3667>:        test   %eax,%eax
   0x403405 <main+3669>:        je     0x403340 <main+3472>
(gdb)

Будет гораздо красивее, если в приложении есть отладочная информация.

strace:

$ strace -i -p 21259
Process 21259 attached
[      3fd2ceb843] select(1, [0], NULL, NULL, {2, 80709}) = 0 (Timeout)
...

-- посмотреть "какие вызовы вызываются".

printf.c: No such file or directory.

Смысл в том, чтобы поместить вывод программы в файл log. Такого же типа ошибка при использовании scanf.

Это сообщение от gdb о том, что он не может найти файла printf.c с исходным текстом функции printf, в которую вы шагнули. К выводу в файл log не имеет никакого отношения.